“AI教父”辛顿：AI将操控人类 #辛顿

-loading-

听音频 🔊 . 看视频 🎦

... 2024-03-24 07:50 .. 杰弗里·辛顿奠定了作为目前AI核心技术的“深度学习”的基础。
    2023年，他突然从已工作10多年的美国谷歌辞职，开始谈论AI的威胁。
    记者：您一度担任AI研发的重要职务却最终离开谷歌，原因是什么？辛顿：这是因为我希望离职后自由地传播自己相信的东西。
    我在2023年4月与作为上司的首席科学家杰夫·迪恩（JeffDean）交谈。
    我提出了AI有可能带来事关人类生存危机的看法。
    他有意挽留我说：“留在谷歌研究AI的安全对策怎么样？”。
    我非常尊敬他，但拒绝了提议。
    即使不会被明确限制，如果身为谷歌的一员，讲话时也不得不考虑到公司的利益。
    记者：您为什么认为AI有可能威胁人类？辛顿：这是因为如果给AI设定目标，作为解决对策，它可能会找出对人类不利的方法。
    比方说，假设向AI下达遏制气候变化的指令。
    AI会意识到为了达到目的而有必要将人类清除，我担心真的会付诸实施的风险。
    今后还可能会出现 .. UfqiNews ↓ 22

4416139189

...马斯克在法国VivaTech科技峰会上表示：“我认为没有人会真的同意暂停，但我是想，为提醒大家记住也要说，‘我认为我们应该暂停’.”
    当然，公开信的其他署名人以及人工智能批评人士等都认真对待这封信的内容.
    公开信警告称，先进的人工智能会给人类带来可怕后果，并呼吁在六个月内暂停开发任何比GPT-4聊天机器人更先进的技术.
    但批评者中也包括微软联合创始人比尔·盖茨（BillGates）、美国参议员迈克·朗兹（MikeRounds）等知名人士，甚至还有“人工智能教父”杰弗里·辛顿（GeoffreyHinton）.
    辛顿今年从离职，也对自己曾付诸巨大努力的技术发出了警告.
    辛顿和其他人一样，认为呼吁暂停开发人工智能没有意义.
    “这是一个集体行动的问题，”谷歌首席执行官桑德尔·皮查伊(SundarPichai)在今年3月份的一次播客上谈到这封公开信时表示.
    他说，这封信背后的人“可.. 06-18 21:20 ↓ 44

...人工智能是否具有真正的威胁还有待进一步观察.
    拜登称，社交媒体已经说明了强大的AI技术在没有正确保护措施的情况下可能造成的危害.
    近日宣布离开谷歌公司的“AI教父”杰弗里·辛顿（GeoffreyHinton）表示，他担心互联网将充斥虚假照片、视频和文字，普通人“无法再辨别真假”.
    此外，辛顿还担心人工智能技术的“未来版本”会对人类构成威胁，因为“它们经常从分析的大量数据中学习到意想不到的行为”，并且目前无法想象如何防止坏人利用AI做坏事.
    近几个月来，科技公司高管对人工智能引发的担忧作出公开回应，并赞同政府和企业共同合作，加强对人工智能产品的监管.
    例如，谷歌已经发布了一份概述“监管人工智能建议”的文件，并提出“社会必须迅速适应监管、建立起惩罚滥用人工智能行为的法律和各国之间的条约，以确保人工智能对世界安全，并确保与人类价值观保持一致的规则”.
    谷歌CEO桑达尔·皮查伊.. 05-05 22:20 ↓ 36 ..UfqiNews