近日，有网友在使用某网盘时，被推荐了一张自己怀孕的照片，并配文“脑子不够，肚子来凑”，文案疑似AI自动生成。该网友觉得这句话对孕妇存在侮辱性，表示不愿再用该网盘。随后，相关平台公司联系她进行了退款，同时回应：文案确实不妥，后续将加强文案的筛选、提高模型训练和技术审核能力，避免再出现类似问题。

伴随着互联网科技的飞速发展，各种AI应用层出不穷。其中，尤以“文生图”或“图配文”最为常见。前者只需提供文字，就能自动生成相对应的图片；后者则会根据图片内容，自动匹配相应的文字。善意地理解，此次事件应该是AI会错了意、表错了情，AI智能体或许只是想调侃一下，而非对孕妇或特定人群怀有主观恶意。但无论是“明知故犯”，还是“无心之失”，此次事件都暴露出一个非常现实的问题——尽管以“智能体”为名，某些AI技术远远没有那么智能。

相比起此次事件，某些AI应用的主观恶意显然更加明显，社会危害性也更大。《甄嬛传》变身“枪战片”、《红楼梦》改成“武打戏”、孙悟空骑着摩托车扬长而去……在AI技术的加持之下，某些“魔改”视频肆无忌惮地亵渎经典IP，不仅扰乱公共视听，而且涉嫌构成侵权行为，由此带来公众对技术边界以及商业伦理的反思。

诚如贝克在《风险社会》一书中所说：“任何新兴技术的诞生与运用，在给人们带来机遇与便利的同时，也可能产生风险与制造挑战。”作为现代信息技术的重要组成部分，AI技术为各种应用场景提供了更加智能化的解决方案。与此同时也要看到，不成熟或者不恰当的使用，也可能使AI出现误差、误判，或者传递出不健康的信息和内容。

在数字化转型的时代背景中，AI技术孕育着无限可能。当科技改变生活成为可观可感的现实，有必要明确AI应用的技术边界与道德风险，为维护公共利益构筑起强大的防火墙。毕竟，AI应用依托于数据模型，只有强化人的主体责任，才能防止技术跑偏和滥用。

（作者系媒体评论员）