Hinton对不受监管、不受控制的人工智能既有短期担忧，也有长期担忧。

谷歌副总裁兼工程研究员GeoffreyHinton于4月从公司辞职。

Hinton离开公司是为了警告与AI相关的风险。

(相关资料图)

Hinton担心不受监管的AI可能会导致大量错误信息、失业以及全自动武器出现问题。

众所周知，谷歌一直在加快AI开发，以推出可以与ChatGPT、Bing和其他AI模型等竞争的产品。但谷歌实现这一追求的方式导致了该公司非常高调的退出。

谷歌副总裁兼工程研究员GeoffreyHinton告诉纽约时报，他于4月从谷歌辞职。被誉为“AI教父”的Hinton的离职对于这家科技巨头来说是一个巨大的打击，他是该行业最杰出的人物之一。

为什么Hinton从谷歌离职？看起来Hinton的决定是基于与不受控制、不受监管的AI相关的危险。据报道，Hinton担心谷歌如何放弃之前对公共AI发布的限制，以防止其他AI竞争对手超越它。他认为这可能会为各种伦理问题打开大门。

Hinton担心的此类问题之一是生成式AI可能会向公众充斥无法区分的错误信息。最近的一个例子就是教皇弗朗西斯穿着羽绒服的病毒形象。Hinton担心的另一个直接后果是AI取代工作的可能性。目前，这是配音演员、艺术家、作家等人士非常关心的问题。

不受控制和不受监管的AI的长期后果想想就有点可怕。Hinton提到了全自动武器的可能性以及AI倾向于从训练数据中学习的奇怪行为。

Hinton远非唯一表达对AI当前发展轨迹担忧的主要人物。超过1,100位行业重量级人物签署了一封公开信，要求暂停AI开发六个月，以解决一系列问题。这份名单包括YoshuaBengio、SteveWozniak甚至ElonMusk等人。谷歌和微软的首席执行官SundarPichai和SatyaNadella的名字都没有出现在信中。

举报/反馈