
OpenAI CEO 萨姆·奥尔特曼认为,AI 带来的收益如此之大,以至于"世界应该接受过程中发生一些坏事"。
奥尔特曼将黑客攻击、诈骗和"其他坏事"列为社会应当容忍的代价,因为"人们会用 AI 做出数量级远超想象的善事"——他并未具体说明潜在的收益。这番言论正值 OpenAI 推动对 AI 监管采取"更轻触"的路径之际,而外界对前沿模型安全性的焦虑正在加剧。
在 Politico 新档播客《Decoded》中,奥尔特曼将这种"为换取更广收益而接受伤害"的意愿,描述为 OpenAI 与其老对手 Anthropic 之间的一大区别。后者由前 OpenAI 员工因安全理念分歧而出走创立。
这一表态也呼应了英伟达 CEO 黄仁勋上月的说法——黄同样主张应将 AI 的危害与其所能带来的好处相权衡。两种论调都契合一种更宏大的"加速主义"观点:放慢 AI 发展本身也蕴含风险。
奥尔特曼也承认了更极端的风险,包括人类可能失去对 AI 系统的控制。"如果我们以安全的名义过度限制这项技术,最终让少数几家公司或少数人——甚至可能是一个国家——掌握过大的权力,那同样可能让一切走向灾难,"他说。
本文来源:https://www.theverge.com/ai-artificial-intelligence/1004811/openai-altman-bad-things-ai-tradeoff
若有版权问题,请来信告知:13951431913#139.com 或在右方提交评论。