... 2024-05-22 11:50 .. 其中包括图灵奖获得者以及诺贝尔奖获得者。
这也是首次由国际专家组就AI风险的全球政策制定达成一致。
文章指出,全球领导人需认真考虑,在未来十年内可能开发出超越人类能力的通用AI系统。
他们表示,尽管世界各国政府一直在讨论先进AI,并尝试引入初步指导方针,但这与许多专家期望的快速、变革性进展仍有距离。
目前关于AI安全的研究严重缺乏,只有1%—3%的AI出版物涉及相关安全问题。
此外,全球没有适当的机制或机构来防止滥用和鲁莽行为,包括如何使用能独立采取行动和自行实现目标的自治系统。
在快速发展中防范极端风险文章建议,各国政府需建立可快速行动的AI监管机构,并为这些机构提供资金。
美国AI安全研究所目前的年度预算为1000万美元,听起来并不少,但相比之下,美国食品和药物管理局(FDA)的预算达67亿美元。
AI领域需要更严格的风险评估并制定可执行的措施,而不是依赖一些不甚明确的 .. UfqiNews ↓
1
本页Url
🤖 智能推荐