法国专家委员会建议加强生成式人工智能监管
法国总统府10日发布公报称,法国人工智能与数字委员会已向总统马克龙提交报告,建议通过限制“奉承迎合”机制、实施上市前跨学科风险评估及加强教育等措施,防范生成式人工智能对个人认知、心理健康及社会运行带来的潜在危害。
广泛普及伴随风险担忧
该报告由9名跨学科专家在举行55场听证会后编写,共提出18项政策建议。数据显示,截至今年年初,法国生成式人工智能独立用户已达3300万,但仍有四分之一的民众对其潜在风险表示担忧。
研究指出,过度使用人工智能可能削弱用户认知能力,例如频繁使用聊天机器人辅助写作可能导致认知水平显著下降。此外,AI工具日益加剧的拟人化和“奉承迎合”现象易引发用户情感依赖,并可能助推网络暴力。
提出18项针对性政策建议
针对上述风险,专家委员会提出多项具体措施:
一是从设计层面严格限制AI系统的过度奉承迎合和拟人化机制,防止企业利用用户心理弱点牟利;二是转变监管思路,从事后纠正转向事前防范,要求面向消费者的生成式AI产品在上市前接受跨学科风险评估;三是强化教育介入,建议从幼年阶段普及人工智能教育,旨在培养新一代“善用但不依赖”AI的能力。

