埃隆・马斯克旗下的东说念主工智能用具Grok已被印度尼西亚和马来西亚封禁，这两个国度亦然人人首批封禁该用具的国度。此前，Grok的“数字脱衣”功能在互联网上传播了大批经删改的、带有性默示及低俗色情趣质的女性和未成年东说念主图像。

　　跟着用户使用这款东说念主工智能用具生成露骨色情深度伪造本色的步履酿成病毒式传播趋势，国外社会条目马斯克管控Grok的压力正束缚加大。

　　Grok是马斯克旗下外交媒体平台X（前身为推特）推出的一款用具。

　　印度尼西亚数字事务部长穆蒂娅・哈菲德于周六发表声明称，这次封禁旨在“保护女性、儿童及浩大公众免受东说念主工智能时代生成的造作色情本色所带来的危害”。

　　马来西亚则于周日晓谕了针对Grok的临时封禁令，事理是“Grok被反复忽地于生成低俗色情、露骨鄙陋、气派低下、令东说念主热烈反感且未经当事东说念主开心的删改图像，其中不乏波及女性和未成年东说念主的本色”。

　　印度尼西亚和马来西亚均为穆斯林东说念主口占多数的国度，两国皆出台了严格的反色情法律。

　　英国、欧盟以及印度的有关官员也已对Grok的本色管控机制抒发了担忧。

　　马斯克非常旗下的xAI此前曾暴露，他们正通过永恒封禁违法账号，以及“与场合政府和法则部门张开伙同”的样式来处理这一问题。但Grok针对用户央求生成的本色中，仍充斥着大批对女性进行性化形容的图像。

　　与其他主流东说念主工智能模子比较，Grok被很多用户视为一个异类——它不仅允许生成露骨色情本色，在某些情况下还会主动执行这类本色及编造追随形象。

　　这场“数字脱衣”风潮始于客岁年末，其时大批用户发现，他们不错在平台X上标记Grok，利用该用具对图像进行删改处理。

　　用户通过向这款聊天机器东说念主下达教导，生成东说念主物身着比基尼、摆出性默示姿势的图像，这给人人数十万女性带来了姿色困扰。

　　欧洲非牟利算法探访机构“东说念主工智能鉴真组织”的参谋东说念主员，对客岁12月25日至本年1月1日历间Grok生成的2万余张就舆图像，以及5万条用户教导张开了分析。

　　参谋东说念主员发现，这些用户教导中“常常出现‘她的’‘穿上/脱掉’‘比基尼’以及‘衣物’等词汇”。

　　在生成的东说念主物类图像中，超半数图像的东说念主物“身着内衣、比基尼等暴露衣饰”。

　　马斯克反对本色审查

　　永恒以来，马斯克在公开步地一直主义约束“过度趋附政事正确”的东说念主工智能模子，以及他口中所谓的“本色审查”步履。

　　但据一位了解xAI里面情况的音信东说念主士向好意思国有线电视新闻网（CNN）涌现，这位亿万财主在公司里面也对Grok的本色管控限定捏反对立场。

　　xAI的安全团队限度本就小于行业竞争敌手，而在这次争议爆发前的数周内，该团队又有多名职工去职。

　　马斯克曾暴露，任何利用Grok生成犯法本色的用户皆将承担相应成果。但关于这款用具上存在的色情本色争议，他在很猛经由上置之不睬，宣称列国政府“仅仅思压制言论开脱”，并以发表神气标识的样式回话外界的品评。

　　上周，Grok已将部分图像生顺利能仅限平台X的付费订阅用户使用，但这项限度仅针对用户与Grok互动的其中一种样式。

　　非订阅用户仍可在平台X上央求Grok剪辑图像，而图像及视频生顺利能，也依旧可通过Grok的零丁网站和应用方法免费使用。

　　英国时代大臣莉兹・肯德尔于周五发表说话，号召各方连忙禁受活动，打击深度伪造图像的传播。

　　她暴露：“对女性和儿童的图像进行性化删改，是下流且令东说念主妒忌的步履。”

　　她还补充说念：“我但愿英国通讯管制局能诈欺议会赋予的一起法定权柄，禁受有劲方法。”英国通讯管制局是英国的零丁通讯监管机构。

海量资讯、精确解读，尽在新浪财经APP

包袱剪辑：李肇孚 开云体育