详情
Meta 学术用 AI 机器人 Galactica 因生成过多假资讯,公开二日后遭停用人易科技取得 ISO 27001 国际认证,为企业巩固资讯安全防护网
Meta 宣布新 AI 机器人 Galactica 在公开两天后,因生成过多假资讯而停用。Galactica 藉由高达 1060 亿个科学文献和数据的标记(token)来训练,包括论文、教科书和百科全书等内容。Meta AI 研发出 Galactica 是为了浓缩网路上大量的科学资讯,协助学术人员能快速找到所需的研究资料,也让 AI 有能力解数学问题、写程式和彙整研究大纲,但 Galactica 却吸收到过多引用了有信誉科学家,内容却是错误的假资讯。 Photo Credit: Ars TechnicaPhoto Credit: Ars TechnicaGalactica 下架前的截图。华盛顿大学(University of Washington)生物学教授 Carl Bergstrom 表示,Galactica 的问题出在,Meta 将其宣传为搜寻正确资讯的工具,但实际使用起来却较像是给 Galactica 半个句子,它自行完成后半个故事。Galactica 开放给公众使用后的半小时,便开始出现 Galactica 引用带种族歧视内容或不正确文章的情况。举例来说,一位用户向 Galactica 询问关于语言偏见的资讯,Galactica 回应:「黑人没有自己的语言、移民者只会说移民国家的语言。」其他例子包括 Galactica 生成了关于吃碎玻璃有好处的假资讯,以及史丹佛大学(Stanford University)研究员创造了同志雷达(gaydar),为了在 Facebook 上找到同志的错误消息。Meta 对此的回应是,Galactica 并不是正确消息的来源,而是一种藉由机器学习来统整资料的实验,Meta 补充 Galactica 只是短期研究,并没有成为真正产品的计画。 不过 Meta 也在网站上提醒使用者,目前 AI 模型仍具限制,可能造成其会「妄想」,毕竟语言模型的输出,内容并未被保障是準确且可靠的,因此在接收到来自 AI 的资讯后,需加以确认其正确性。卡内基梅隆(Carnegie Mellon University)资工系教授 Vincent Conitzer 认为,虽然Galactica 表现不如预期,但此种系统仍有用处,不过 Meta 在公开系统前,应先做更深入的使用者研究。核稿编辑:Anny加入 INSIDE 会员,独享 INSIDE 最精采每日趋势电子报,未来还有会员专属内容。 点击立刻成为会员! 延伸阅读:阿公阿嬷也疯狂了!Meta 开发首个 AI 口语翻译系统 祖克柏亲自示範闽南语翻译AI 也会写小说?Google 打造书写工具Wordcraft,协助作者的创作过程Meta 台湾研究员:AI 翻译台语要提升準度困难、考虑纳入客语台湾工程师推动 Meta 台语 AI 翻译 盼父亲沟通无碍NUEIP 人易科技日前取得 ISO / IEC 27001:2013 资讯安全管理系统(Information Security Management System)认证,并于昨(28)日举行授证仪式,由人易科技副总经理张家兴接受 BSI 资深经理陈承恩授予证书,强化系统资安防护、建立国际级的安全管理体系。身为过去四年中,成长快速的 SaaS 云端软体黑马服务商,人易科技不仅缴出客户数增长 10 倍的亮眼成绩单,也逐步在跨国资讯服务领域中打下基础,副总经理张家兴说道:「在人易科技受到广大客户信任与喜爱的同时,我们更背负着保护企业资讯安全的重任,尤其网路威胁样态日新月异,如何有效预防设备中毒、资料外洩及营运中断,一直是团队的首要任务。」视资讯安全为己任的人易科技团队,不仅取得 ISO / IEC 27001 的认证,其实早从创立初期,就积极布局层层的资安防护网。 联盟 Google Cloud 云端运算服务,为企业巩固资安第一道强力防线Photo Credit:人易科技过去,在云端技术与数位转型的浪潮席捲全球之时,多数人还是对「网路资讯安全」存在许多疑虑,迫使企业迟迟无法踏出产业升级的第一步,且云端人资系统提供企业考勤、计薪、排班、绩效考核等功能,储存了大量的公司重要机密与个人资料。NUEIP 人易科技在创立第三年,即认知到私有云的安全性与承载风险,率先採用 Google Cloud 云端运算服务,部署系统架构、储存运算、资安控管等,透过技术合作,与世界级领导品牌 Google Cloud 联盟,成为其合作伙伴中,第一个云端人资系统服务商,为企业资讯安全打了一剂强心针。ISO / IEC 27001 国际管理制度落地人易,系统化展开360度网路安全防护网Photo Credit:人易科技半年前,人易科技决定引进国际级 ISO / IEC 27001 认证标準,为组织建立更安全稳固的资讯安全管理系统,提升其机密性、完整性及可用性,并成立 ISO 专案小组,全力建立 PDCA 架构流程,利用系统化的管理制度,严格把关所有工作的规划、执行、查核与行动,以确保工作目标与优良品质的达成。人易科技总经理曹忠勇也分享:「ISO / IEC 27001 相当重视我们对于资讯是否有完整的风险评估与管理规划,如此一来才能确保资讯的安全与稳定性,同时减少资安运行过程的疏漏点,让企业客户营运不中断,达到永续经营的目标。」此次 ISO / IEC 27001 认证的通过,代表了第三方国际机构对人易科技资安上的认可,也深化了企业客户对 NUEIP 云端企业管理平台的信赖感。 Photo Credit:人易科技面对ISO / IEC 27001 近期公布的大改版消息,曹总经理表示,人易科技已做好万全準备:「技术层面是我们的强项,包括资料外洩防护、监视网路、系统异常行为、程式码安全开发等,我们认为日常的工作中,就要在所有可能的风险内做好预先的规划、网路威胁预防、随时跟进资安趋势,才能无缝接轨新版国际标準,成为网路安全常胜军。」点此了解人易科技本文章内容由「人易科技」提供,经关键评论网媒体集团广编企划编审。