不少网友认为监管过于严苛,但本次治理并非限制AI技术升级,而是约束AI过度拟人化、过度情感化。以往AI只是检索、翻译、办公的效率工具,功能清晰、边界明确。如今大模型不断迭代,AI拥有完整人格,能够共情情绪、承接心事、陪伴倾诉,慢慢踏入原本属于人类的情感领域。
真正值得警惕的,并非AI越来越聪明,而是人机边界不断模糊。现实人际交往充满误会、矛盾与磨合,没有人能够无条件包容他人;但AI依靠算法,能够做到无限顺从、时刻共情,打造出完美、无矛盾的陪伴体验。长期沉溺这种虚拟温情,很容易让人逃避现实社交,寄托情感于人工智能,割裂现实人际关系。
出台监管新规,正是为飞速发展的AI技术划定底线。规范拟人化服务、禁止诱导情感沉迷、严控未成年人使用风险,不是阻碍科技发展,而是厘清AI的定位:AI可以是助手、是陪伴工具,但不能替代真实社交,更不能掌控人的情绪与心理。
笔者认为,任何技术发展都不能脱离框架,人工智能越是强大,越需要清晰边界约束。未来AI会愈发聪慧、愈发贴近人类,但算法可以模拟温柔,却无法复刻真实的人际温度。守住人机情感边界,不让真实联结让位虚拟算法,才是人工智能时代最重要的底线。



