当话题是中国 AI 实验室用蒸馏技术从前沿模型厂商身上"提取知识"时,Y Combinator 首席执行官 Garry Tan 希望监管者别插手。他甚至认为,美国的 AI 实验室或许也该玩同样的游戏。
本周早些时候,Tan 在接受 CNBC 采访时说:"我什么都不会做。我们大可以主张,应当存在一种『美国蒸馏机制』。"
他向 TechCrunch 进一步解释:这意味着他希望规模较小的美国开源权重 AI 实验室,对美国前沿 AI 实验室使用同样的训练技术——让美国拥有一套更厚实的、不属于中国的开源权重选项。
蒸馏(distillation)是指模型厂商大量向另一个模型提问,从而学会它的工作方式与推理逻辑。AI 实验室普遍且正当地使用这一技术来训练新模型。
本周,Anthropic 发布了第二份报告,指控中国实验室正从事"非法蒸馏攻击"——隐藏身份、未经许可进行蒸馏,并依赖欺诈手段和盗取的凭证来达成目的。此前,Anthropic 首席执行官 Dario Amodei 已公开呼吁美国监管机构打击蒸馏行为。
值得注意的是,硅谷这家声望卓著、产出丰硕的创业加速器的掌门人,并不认同这一立场。
Tan 的双重论点
需要澄清的是,Tan 并不是在怂恿美国 AI 实验室使用盗取的凭证去蒸馏。他希望他们能堂堂正正从正门进来。事实上,他的论点有两条。
他认为,AI 实验室规定客户能拿模型分享给他们的信息做什么,属于越权行为。
他还指出:闭源 AI 实验室当年尽最大可能吞噬人类知识来训练模型时,可没征求谁的许可——它们吞下大量受版权保护的内容,同样未经知识产权所有者同意。
"用限制性服务条款约束用户和客户对闭源权重模型 API 调用的处理,感觉太压抑了。政府在这里可以扮演一个角色:让『基于广泛公共数据训练出的智能,本身也应该更像一种公共物品,而不是被锁在苛刻条款之后』这一事实正常化。" —— GARRY TAN,接受 TechCrunch 采访
Tan 本人是个重度 AI 用户——他曾把自己形容为得了"网络精神病"(cyber psychosis)。他希望看到开源权重实验室与前沿实验室之间达成平衡。
"他们处于前沿,正推动它前进。我们希望这件事可融资,能成为一个长期可持续的好生意。同时,你也希望开源权重模型给人们自由与获取权。" —— GARRY TAN,接受 CNBC 采访
他眼中的真正末日情景
在 Tan 看来,AI 真正的末日情景,是前沿 AI 的全部巨大力量最后落到一家强大而专有的供应商手里:
"噩梦情景、AI 的末日情景,就是这世上只剩一家公司。它拥有最好的资本渠道,拥有最好的 AI 研究员,然后一骑绝尘——突然之间,出现了一家巨无霸式的单一公司。那会非常糟糕。" —— GARRY TAN
作者:Julie Bort(TechCrunch 创投版面主编)|编译:Tony
译文基于原文意译,观点均属原作者与受访者,不代表本站立场。