大模型安全领域两项国际标准发布全球AI安全评估测试有了新基准

-loading-

听音频 🔊 . 看视频 🎦

... 2024-04-29 00:10 .. ”WDTA人工智能安全可信负责任工作组组长黄连金介绍，此次发布的标准汇集了全球人工智能安全领域的专家智慧，填补了大语言模型和生成式人工智能应用方面安全测试领域的空白，为业界提供了统一的测试框架和明确的测试方法，有助于提高人工智能系统安全性，促进技术负责任发展，增强公众信任。
    记者了解到，此次发布的两项国际标准是大模型及生成式人工智能应用方面的安全测试标准。
    《生成式人工智能应用安全测试标准》以WDTA为牵头单位，为测试和验证生成式人工智能应用的安全性提供了框架。
    它定义了人工智能应用程序架构每一层的测试和验证范围，包括基础模型选择、嵌入和矢量数据库等，确保人工智能应用各方面都经过严格的安全性和合规性评估，有利于保障其在整个生命周期内免受威胁和漏洞侵害。
    《大语言模型安全测试方法》以蚂蚁集团为牵头单位，为大模型本身的安全性评估提供了一套全面、严谨且实操性强的结构性方案 .. UfqiNews ↓ 1

... 04-04 13:45 , 11392 , 60 ..
[Src: 新浪网/Web3天空之城， 2024-04-03. ]

阿里巴巴联合创始人蔡崇信博客访谈2024

（2024年4月）近日，阿里巴巴董事会主席、联合创始人蔡崇信接受了一次投资人的播客专访.
    在访谈中,他分享了自己的成长经历和在阿里巴巴的工作体验.

作为一名台湾移民,蔡崇信自幼生活在美国.
    他的父亲对他影响至深.
    谈到个人兴趣,他表示一直热爱体育运动.
    在加入阿里巴巴之前,蔡崇信曾在瑞典瓦伦堡家族旗下的Investor AB工作,期间他从一名律师转变为投资者.

蔡崇信回忆了阿里巴巴的创业初期.
    他谈到了与马云的初次见面,以及对公司愿景和文化的理解.
    他认为,阿里巴巴有着广阔的发展前景.
    作为公司的领导者之一,他见证了阿里巴巴的成长历程.

在谈到淘宝时,蔡崇信指出,随着变现模式的建立,尤其是搜索广告的引入,淘宝的业务规模实现了快速增长.
    但他坦言,公司也曾因为忽视用户体验而付出代价.
    为了解决这一问题,淘宝进行了内部重组,新任CEO将提升用户体验作为首要任务.

蔡崇信表示,面对新冠疫情、经济增速放缓、市场竞争加剧以及监管环境变化等多重压力,公司员工的士气一度受到影响.
    但他相信,只要明确公司的发展方向,员工就会重拾斗志.

对于中国经济,目前中国在全球产出中的占比达31%,但消费仅占全球的14%,两者存在不平衡.
    但从长远来看,随着中国消费者重要性的提升,这种不平衡将得到缓解.
    尽管当前房地产市场低迷,年轻人就业前景不明朗,但考虑到中国巨大的人口基数,中国市场仍具有巨大潜力.


在监管方面,承认公司曾因违规行为缴纳巨额罚金.
    但认为,经过整改,在更加明晰的监管框架下,合规经营反而成为一种优势.
    尽管人口红利逐步消退,但依托勤劳智慧的国民和完善的教育体系,中国将巩固其制造业大国的地位.

虽然一些企 ... 阿里巴巴联合创始人蔡崇信博客访谈2024 ⟶

...360首席安全官、天津智慧城市数字安全研究院院长杜跃进称，人工智能作为中、美、欧等国家或地区都在积极发展的关键新兴技术，其在发展过程中所产生的安全挑战也更为复杂多元，世界主要国家和地区已经将安全治理列为各自人工智能战略的优先事项.
    目前，各国普遍关注的人工智能安全问题共十类，包括网络安全问题、企业合规问题、可解释性问题、隐私安全问题、声誉和伦理问题、未来劳动力问题、公平性问题、人身安全问题、社会稳定问题、以及国家安全问题.
    而以上挑战映射到人工智能的研发和应用过程，又可以划分为人工智能自身安全、衍生安全、以及人工智能赋能安全等核心安全挑战.
    报告显示，作为一种数字技术，人工智能“双刃剑”特征明显，不仅自身存在数字安全威胁和隐患，随着人工智能工程化、场景化、平台化落地不断加快，人工智能安全需求已经超越单纯技术范畴.
    面对日趋复杂的安全挑战，人工智能安全治理难以一蹴而就.. 01-12 14:50 ↓ 14 ..UfqiNews