立花里子ed2k

GPT-4o

凤凰网科技讯 北京本事8月9日，OpenAI近日发布了一份对于其最新AI模子GPT-4o的安全评估禀报，称该模子的举座风险级别为“中等”。这看似一份坦诚的自我注视禀报，实则荫庇深奥。

GPT-4o自本年5月发布以来，备受拦截。OpenAI宣称在发布前，曾邀请外部安全众人对模子进行“红队转折”（在收集实战攻防演习中，‌红队成员针对办法系统、‌东说念主员、‌软件、‌硬件和建筑同期施行的多角度、‌搀和、‌扞拒性的模拟转折），以发现潜在风险。着力闪现，尽管GPT-4o概况生成过失信息、暴力推行等，但举座风险被评估为“低”。

但是，在风险评估的四个类别中，“劝说”这一类别风险较高，GPT-4o生成的文本在某些情况下甚而比东说念主类撰写的更能影响读者宗旨，即使它举座上并不具有更可靠的劝服力。

值得提防的是，这份禀报的发布时机颇为敏锐。OpenAI正面对着前所未有的安全质疑，从里面职工到政界东说念主士月旦声抑止。就在GPT-4o安全禀报发布前，好意思国麻省考虑员伊丽莎白·沃伦和众议员洛丽·特拉汉联名共同签署了公开信，条款OpenAI公开复兴安全审查和举报机制的讨论问题。此前，OpenAI里面曾经因安全问题引起董事会担忧，CEO山姆·阿尔特曼甚而一度被解职。

更令东说念主担忧的是，GPT-4o的发布恰逢好意思国总统选举前夜。这种情况下，该模子极有可能被亏本于传播过失信息，甚而被坏心步履者诳骗。天然OpenAI强调了其对安全性的怜爱，但这份禀报却让东说念主不禁质疑，所谓的“安全评估”是否仅仅为了平息公论的烟雾弹？

对此，加州州考虑员斯科特·维纳正在鼓励一项旨在监管大说话模子的法案，其中包括条款公司对AI的潜在危害承担法律拖累。若是该法案通过，OpenAI等公司将面对更严格的安全监管。

OpenAI的“透明度”一直备受诟病。不仅磨练数据起头不解，连同安全测试细节也阑珊公开。GPT-4o的安全评估禀报天然是依然朝着“透明”迈开一步，但依旧远远不够——公众有权知说念这些宽阔AI的信得过面庞，以及它们可能带来的潜在风险。

OpenAI宣称的“中等风险”，能否经得起本事的进修，还有待不雅察。（作家/陈和林）

更多一手新闻立花里子ed2k，宽饶下载凤凰新闻客户端订阅凤凰网科技。思看深度报说念，请微信搜索“凤凰网科技”。