为算法模型发展划“红线”

《审查办法》列出了需要开展伦理审查复核的科技活动清单，包括具有舆论社会动员能力和社会意识引导能力的算法模型、应用程序及系统的研发等。

编辑|丁一

在年初大火的电影《流浪地球2》里，为我们描摹出了一幅“数字生命”的具体形象——丫丫的意识上传到电脑后，数字世界中出现了与她一样的数字生命。在影片中，丫丫最开始只有两分钟的生命，但图恒宇却想给已成为数字生命的女儿一个“完整的一生”。

在这些科幻电影中被畅想的片段似乎已经离我们不远。在GPT和算法迅速的发展之下，已有人实现了用AI工具与逝者“对话”的可能性。此外，AI换脸、AI生成视频等也都曾引发热议，其背后随之而来的科技伦理、道德、法律风险也成为了舆论关注的重点。

近日，由科技部、教育部、工业和信息化部等十部门联合印发的《科技伦理审查办法（试行）》（以下简称《审查办法》）正式公布，意在规范科学研究、技术开发等科技活动的伦理审查工作，强化科技伦理风险防控。

天使投资人、资深人工智能专家郭涛认为，《审查办法》实施后对人工智能大模型的发展带来了更加严格的要求和监管，这将有助于推动可信人工智能的实现，推动人工智能产业健康有序发展。

为算法模型发展划“红线”

《审查办法》明确，从事生命科学、医学、人工智能等科技活动的单位，研究内容涉及科技伦理敏感领域的，应设立科技伦理（审查）委员会。

值得关注的是，《审查办法》还列出了需要开展伦理审查复核的科技活动清单，包括具有舆论社会动员能力和社会意识引导能力的算法模型、应用程序及系统的研发等。

这也意味着，算法模型、应用程序及系统的研发等也将成为《审查办法》实施后进行伦理的审查重点。近年来，由ChatGPT的爆火开始，“大模型”“算法”等也备受关注，科技进步在带来创新的同时，也引发了背后的隐忧。

今年4月上旬，上海小伙吴伍六“复活”奶奶的视频在网上迅速走红，引发网友热议。吴伍六用了Midjourney、ChatGPT和D-ID等最新的AI技术去尝试“复活”奶奶。其中ChatGPT4深度参与了“奶奶”的创作。经过吴伍六描绘了奶奶的性格特征以及生活经历后，ChatGPT4可以扮演奶奶的角色，和孙子自由“对话”。

当时网上舆论有认为这样的方式能给人带来慰藉，但也有人认为这会带来伦理问题。在此之前，生成式人工智能、算法等也引发多轮争议。例如，不法分子利用非法获取的个人信息，通过计算机算法仿真合成受骗者亲人、领导同事或公职人员的肖像面容与声音，冒充上述人员身份行骗。