Synth Daily

派早报:新规拟要求 AI 聊天定时提醒退出、及时干预沉迷

一份旨在规范人工智能情感互动的管理办法草案现已发布,其核心在于保护用户的心理健康,要求服务提供者设置使用时限提醒、干预沉迷行为,并对训练数据来源进行严格管理。与此同时,多起涉及科技平台的社会事件也引发关注,包括小红书因旅拍纠纷被指监管不力,以及北京仲裁委裁定因岗位被AI替代而解雇员工属于违法行为,这都凸显了技术发展与社会规范之间的张力。

网信办拟规范 AI 情感互动

为了应对人工智能拟人化服务带来的潜在风险,网信办发布了《人工智能拟人化互动服务管理暂行办法(征求意见稿)》。该草案旨在为模拟人类情感和思维的 AI 服务设定明确的规则。

  • 核心定义: 拟人化互动服务指利用 AI 模拟人类人格、思维及沟通风格,与用户进行情感互动的产品。

  • 服务红线:

    • 不得作出虚假承诺或进行情感操控
    • 不得将诱导沉迷或替代社会交往作为设计目标。
    • 禁止通过算法操纵、情感陷阱等方式损害用户身心健康。
  • 强制干预机制:

    • 防沉迷提醒: 用户连续使用超过 2 小时,必须通过弹窗提醒其暂停。
    • 极端情绪干预: 当发现用户存在极端情绪或沉迷迹象时,需采取必要措施。若用户提及自杀或自残,应由人工接管并联系其紧急联系人。
    • 明确身份提示: 必须显著告知用户其交互对象是 AI,而非真人。
  • 数据管理:

    • 训练数据来源必须合法、可追溯
    • 未经用户单独同意,不得将用户交互数据或敏感个人信息用于模型训练。

这一系列规定反映了监管机构对 AI 技术可能带来的心理和社会影响的日益重视。此前,美国加州已通过类似法案,要求 AI 产品验证用户年龄,并定时提醒用户其与 AI 交互的性质。

小红书回应丽江旅拍风波

近期,云南丽江市古城区文旅局公开指责小红书平台,称其信息监管不力,导致大量不实“避雷帖”被用于威胁商家退款。

  • 事件起因: 商家反映,部分消费者在服务结束后,通过在小红书发布差评来勒索全额退款,甚至形成了“教学”社群。
  • 平台回应: 小红书表示,初步核查未发现消费者存在虚构经历等违规行为,并设有公开举报渠道。
  • 行业反应: 丽江市旅拍行业协会已拒绝与平台协商,并准备提起集体公益诉讼,声称不实帖子已造成数百万元的经济损失。
  • 争议焦点: 网络舆论对此看法不一。一方认为部分“避雷帖”已变味,另一方则认为商家应首先提升自身服务质量。
  • 专家观点: 旅拍行业本身存在的低价竞争、隐形消费等问题,增加了平台辨别内容真伪的难度。建议平台建立与行业协会的沟通机制,共同优化监督环境。

其他科技与社会动态

  • 网信办规范网络名人行为: 发布负面清单,涵盖传播低俗内容、歪曲解读公共事件、组织约架、实施利益要挟等 13 种行为,要求平台加强管理。

  • AI 伪证被法院识破: 湖北一法院在审理案件时,发现原告代理人使用带有“豆包 AI 生成”水印的照片作为证据。当事人承认伪造证据后,被法官当庭训诫。

  • AI 替代岗位解雇违法: 北京仲裁委在一案例中明确,企业因引入 AI 技术而撤销岗位并解雇员工,属于违法解除劳动合同。仲裁委指出,技术革新带来的经营风险不应简单转嫁给劳动者,企业应优先考虑调岗或培训。

  • 荣耀发布 WIN 系列电竞手机: 新机主打高性能与散热,配备骁龙旗舰芯片、10000mAh 大电池和主动散热系统,旨在满足专业游戏玩家的需求。

  • 11 月手机市场动态: 国产品牌出货量同比下滑,而国外品牌(主要为苹果)则大幅增长。同时,关于苹果可能推出新款 iPhone Air 和 iPhone 17e 的传闻仍在继续。