无法防止坏人利用AI做坏事辛顿：离开谷歌并不是为了批评谷歌

被业界称为“人工智能教父”的计算机科学家杰弗里·辛顿（Geoffrey Hinton）周一在社交媒体上证实，他已于上周离开谷歌。 十多年来，Hinton 一直帮助谷歌开发 AI 技术，但他现在是 AI 的最新末日论者。

Hinton 在推特上澄清说谷歌推ai药物开发，离开谷歌并不是要批评谷歌。 “事实上，我离开是为了谈论人工智能的危险，而没有考虑这会对谷歌产生怎样的影响PC蛋蛋群哪里找啊？，”他写道。 “谷歌的行为是负责任的。”

没有办法阻止坏人利用 AI 做坏事

欣顿坦诚地表达了他对人工智能的担忧，他说：“似乎很难看出我们如何才能阻止坏人利用人工智能做坏事。”

Hinton 在神经网络方面的开创性工作塑造了为当今许多产品提供动力的人工智能系统。 Hinton 与法国计算机科学家 Yann LeCun 和加拿大计算机科学家 Yoshua Bengio 一起获得 2018 年图灵奖，以表彰他们对神经网络研究的贡献。

去年底，以微软、谷歌为代表的科技巨头围绕AI大模型展开了新一轮“军备竞赛”，IBM、亚马逊、百度、腾讯等公司也在研究类似技术。

随着 Hinton 的离去，他以更加直白的方式加入了 AI 批评者的行列。 批评人士认为，这些科技公司正在积极开展基于生成人工智能（AIGC）的产品开发活动，“这是一场与危险的赛跑”。

Hinton 表示，他现在甚至后悔一生都致力于 AI 的开发。 “我经常告诉自己，即使我不做这些工作，其他人也会做可靠加拿大28群吧，”他说。

75 岁的 Hinton 终身从事学术研究，他对人工智能的信念推动了他的职业生涯。 Hinton 是卡内基梅隆大学的计算机科学教授，但因不愿接受五角大楼的资助而离开大学前往加拿大。 美国的大部分AI项目都是由国防部资助的，Hinton强烈反对在战场上使用人工智能。

2012 年，欣顿和他在多伦多的两个学生建立了一家神经网络公司，该公司可以分析数千张照片并自学识别常见物体，例如花、狗和汽车。 谷歌后来以 4400 万美元收购了这家公司，其中一名学生 Ilya Sutskever 后来成为 OpenAI 的首席科学家。

Hinton 长期以来一直认为，神经网络是机器理解和生成语言的强大方式，但它不如人类处理语言的方式。 然而全天加拿大28QQ信誉群！，随着谷歌和 OpenAI 去年使用大量数据构建系统，产生了像 Bard 和 ChatGPT 这样的 AI 聊天系统，Hinton 的观点发生了变化。 虽然他仍然认为这些系统在某些方面不如人脑，但它们可以在其他方面使人类智能黯然失色。

巨人队的人工智能“危险游戏”可能不会停止

从 AI 先驱到末日预言者，Hinton 的离开标志着科技行业几十年来最重要的转折点。 AI 行业领导者认为，新的 AI 系统可能与 1990 年代初引入网络浏览器一样重要，并可能导致从药物研究到教育等领域的颠覆性突破。

但让不少业内人士感到困扰的是，他们担心人工智能正在向“邪恶的一面”发出“危险信号”，生成式人工智能已经可以成为传播错误信息并对一些工作岗位构成威胁的工具。 科技界最大的反对声音认为，人工智能可能在未来某个时刻对人类构成威胁。

随着科技巨头不断改进他们的 AI 系统，Hinton 认为这些系统正变得越来越危险。 “直到去年，谷歌还被视为人工智能技术的‘管家’，小心翼翼地不发布可能造成伤害的东西，”欣顿说，“但现在微软通过聊天机器人增强了 Bing 搜索引擎，并向谷歌发起挑战。核心商业，科技巨头陷入一场可能无法停止的竞赛。”

今年 3 月，亿万富翁马斯克与数千名技术领袖和研究人员签署了一封公开信，呼吁暂停开发新的 GPT 模型系统，并认为人工智能技术将“给社会和人类带来深远风险”。

Hinton 不在共同签署人之列，他当时仍在谷歌工作。 Hinton 上个月通知了公司他的辞职，并于周四与谷歌首席执行官 Sundar Pichai 通了电话，不过他拒绝公开讨论他与 Pichai 谈话的细节。

皮查伊最近还在接受哥伦比亚广播公司“60 分钟”采访时公开谈到了人工智能的伦理问题。 “社会还没有为人工智能的快速发展做好准备PC蛋蛋群吧，”他说，并警告说人工智能的后果将影响“每家公司的每一种产品”。

“所有公司的产品都会受到人工智能快速发展的影响，社会需要为已经引进的技术做好准备。” 皮查伊表示，“我们适应的速度似乎赶不上技术发展的速度。”

他强调，虚假信息、假新闻和图片的问题比人们想象的要严重得多，它们可能造成伤害。 他还说最新加拿大28信誉群，聊天机器人有一个“黑匣子”，“你不能完全理解它为什么或如何以某些方式做出反应，”皮查伊说。

但谷歌负责技术和社交业务的高级副总裁 James Manyika 回应称：“巴德没有知觉，也没有自我意识，但它的行为举止却非常像一个有意识的人。”

对于 Hinton 的离职，谷歌首席科学家 Jeff Dean 在一份声明中表示：“我们仍然致力于对人工智能采取负责任的态度。我们继续学习和理解 AI 正在出现的风险，同时也在大胆创新。”

AI超越人类已经不远了

Hinton 最担心的是，互联网上将充斥着假照片、视频和文字，普通人将“再也无法分辨真假”。 此外，Hinton 担心人工智能技术的“未来版本”可能会对人类构成威胁，因为“他们经常从他们分析的大量数据中学习意想不到的行为。”

“这将是一个问题，因为如果人工智能系统不仅被允许生成自己的计算机代码，而且实际上自己运行该代码谷歌推ai药物开发，它会变得非常可怕，”欣顿说。 他甚至担心有一天真正的“自主武器”会成为现实，这些“武器”就像战场上的“机器人士兵”。

“这种东西其实可以有比人类更聪明的想法，”他说，“但大多数人认为那还很遥远，我也认为是 30 到 50 年甚至更长时间，但显然，我不再这么认为了”

谷歌和微软等公司之间的竞争将升级为一场没有全球监管就不会停止的全球竞争。 “最好的情况是世界领先的科学家合作研究控制技术的方法。我认为他们不应该继续扩大规模，直到他们了解人类是否可以控制人工智能，”欣顿说。

美国参议院多数党领袖舒默近日推出人工智能治理框架，并聘请顶级人工智能专家进行咨询。 该计划将侧重于在人工智能系统中创造透明度，并将要求独立专家在公开发布人工智能技术之前对其进行测试，并要求披露该技术的开发者、地点和方式。

谷歌还发布了一份概述“人工智能监管建议”的文件，并提出“社会必须迅速适应监管，在各国之间建立法律和条约来惩罚滥用人工智能，以确保人工智能对世界是安全的，并确保规则符合人类价值观”。