前 앤特로픽研究员杰克布·科克森警告说，人工智能（AI）开发竞争的风险正在增加，“人类失去对AI的控制权的可能性更大”。

根据5日（当地时间）彭博社和CNBC的报道，科克森在当天的纽约市议会AI听证会上表示：“我们仍然不知道如何控制任何AI系统。”

 

科克森在OpenAI和앤特로픽工作了三年，负责预训练研究。他在上个月8日（当地时间）通过社交媒体X宣布辞职，并批评道：“没有任何公司在负责任地行事。这两家公司正在以我们的生命为赌注。”

在听证会上，他表示：“如果继续当前的轨迹，人类失去对AI的控制权的可能性大于不失控的可能性，这可能导致人类灭绝。”

科克森应纽约市议会主席朱莉·梅宁的请求出席了听证会。梅宁正在推动一项AI监管法案，该法案由10项条例组成。核心内容包括在紧急情况下立即停止系统运行的“杀死开关”强制引入、在纽约市销售和分发AI系统前进行第三方安全验证的强制性、引入举报人奖励计划，以及对违规行为处以每次最高2.5万美元（约3400万韩元）的罚款等。

科克森指出，关于“杀死开关”的措施“在短期内可能有帮助，但从长远来看不足以保证安全”。

当天的听证会上，OpenAI、앤特로픽、谷歌等大型科技公司的相关人员也通过视频出席作证。市议会表示，将向法院申请对未响应出席请求的SpaceX AI部门发出传票。

在唐纳德·特朗普政府对AI监管保持大体不干预的背景下，纽约等州和地方政府加快了独立监管的步伐，联邦与地方之间的矛盾也在加大。

※ 本报道经人工智能（AI）系统翻译与编辑。

• #人工智能监管
• #杀死开关
• #AI安全性