近来，好意思国企业家埃隆·马斯克旗下东说念主工智能聊天机器东说念主“格罗克”被指生成色情内容，激发平常辩驳。这一事件昨年年末以来抓续发酵，多国政府已出手相干窥伺。跟着大模子迅猛发展，诈欺东说念主工智能生成深度伪造内容并在网上传播的案例时有发生，突显了东说念主工智能手艺的伦理风险。
列国怎样反映
“格罗克”由马斯克旗下东说念主工智能企业xAI公司开发，并内置于马斯克旗下酬酢媒体平台X。近期，X平台一些用户诈欺“格罗克”的图片裁剪功能生成真确东说念主物的失实性表示内容，并在平台上分散，受害者包括成年女性和未成年东说念主。“格罗克”涉嫌生成色情内容的问题已受到英国、法国、印度、巴西、澳大利亚等国和欧盟方面的强烈辩驳，一些国度的监管机构已介入窥伺。
多名法国政府部长和国民议会议员本月2日向法国司法部门报案。巴黎检方随后暗意，将对“格罗克”涉嫌生成色情内容出手窥伺。
印度信息手艺部2日要求X平台删除色情内容、打击违纪用户，并在72小时内提交“整改发达”，不然将靠近法律制裁。
欧盟委员会负责数字经济事务的发言东说念主托马斯·雷尼耶5日说，正严肃窥伺针对“格罗克”的相干投诉，欧盟委员会要求X平台提供更多信息。
印度尼西亚和马来西亚的监管机构分离于10日和11日布告对本国用户造访“格罗克”进行临时适度。印尼通讯和数字事务部长默蒂娅·哈菲兹在一份声明中暗意，此举关于保护公众免受东说念主工智能生成的露骨图像所带来的危害是必要的，并要求X平台就“格罗克”所激发的负面影响尽快作出讲明。马来西亚通讯和多媒体委员会暗意，对“格罗克”的造访适度将抓续成效，直至相干企业落实有用戒备机制。
英国通讯经管局12日暗意，已笔据英国《在线安全法》对X平台伸开认真窥伺，开云体育官方网站以判定该平台是否践诺了保护英国宇宙免受作恶内容侵害的服务，不摒除“在最严重情况下”屏蔽X平台的可能。
图像生成有何问题
“格罗克”的图像生成问题本色上从Grok Imagine发布后就浮出水面。2025年8月推出的东说念主工智能图像生成器Grok Imagine是“格罗克”的功能模块，允许用户通过输入文本指示来创建图片和视频。它包含一个所谓“热辣阵势”，可生成成东说念主内容。
好意思联社报说念说，这一问题之是以更加严重，一方面因为马斯克标榜旗下聊天机器东说念主是比成立更多安全标准的竞争敌手居品“更前锋”的遴荐；另一方面，“格罗克”生成图像公开可见，很容易分散。
东说念主工智能取证组织近日发布发达高慢，磋磨东说念主员汇注和分析了“格罗克”在2025年12月25日至2026年1月1日历间以深度伪造模样生成的2万张图像。扫尾发现，所有包含东说念主物的生成图像中，世界杯官网有55%的图像中有东说念主物穿着表示，这些着装表示的东说念主有81%是女性；有2%的生成图像为年岁不及18岁的东说念主物，其中一些图像包含穿着表示的年青女性（或女孩）形象。
据多家媒体报说念，面对多方压力，扫尾上周末，“格罗克”在X平台上的图像生成和裁剪功能已被蜕变为仅向平台付用度户洞开，但在“格罗克”应用重要和官网上仍可免费使用该功能。英国政府对此暗意，这一整改标准仅仅“将允许创建作恶图像的东说念主工智能功能酿成一项高档服务”，对受害者来说是“侮辱性的”。
处置深度伪造难在哪
这次事件并非就怕。频年来，跟着大模子呈快速发展态势，诈欺东说念主工智能手艺换脸换声、生成深度伪造内容并在网上传播的案例时有发生。尽管东说念主工智能伦理风险日益突显，东说念主工智能监管端正在很多国度仍不完善。
清华大学东说念主工智能海外处置磋磨院副院长梁正秉承新华社记者采访时说，东说念主工智能深度伪造处置波及模子算法安全性评估、对诈欺东说念主工智能用具生成无益内容看成的经管、对东说念主工智能生成内容进行标识等多方面，很难依靠出台一部法律进行全面处置，而是需要建立“全链条式”处置体系。在这类事件中，内容生成和分发平台对内容检测甄别负有主体包袱。与此同期，还应通过讲明注解等模样援救公众的东说念主工智能伦理修养，确保相干用具使用顺应。
很多国度正积极鼓吹相干端正迷惑。波兰众议院议长沃王人米日·恰扎斯蒂6日暗意，但愿借这次“格罗克”事件鼓吹国度数字安全立法，相干端正旨在加强未成年东说念主保护，并使司法部门更易于删除无益内容。
英国科学、蜕变和手艺大臣莉兹·肯德尔12日布告，英国《数据法案》相干条件将于本周成效，未经容许制作或寻求制作机密图像将被认定为刑事罪犯，在X平台上发布此类内容将组成刑事罪犯。
马来西亚通讯部副部长张念群近日暗意，全球正围绕东说念主工智能伸开强烈竞争，但若一味追求速率与利润，而惨酷伦理模范与社会包袱，其成果将不胜设念念。“格罗克”在短时天职广漠生成瞻念影像，且速率远超传统影像处理模样，突显出东说念主工智能在枯竭伦理抵制情况下被挥霍的推行风险。
更多热门速报、泰斗资讯、深度分析尽在北京日报App
备案号: