美国纽约市禁止公立学校八年级及以下学生使用AI｜每周风险追踪

2026-09-07 · 仁信配资

每周，我们会盘点上一周国内外人工智能、互联网平台治理、科技竞争等领域需要重点关注的动态，并分析其热搜指数与风险指数，从舆情热度与综合风险两个维度进行评价。 本周我们关注网信办整治AI应用乱象，已清理561万余条信息；美国纽约市禁止公立学校八年级及以下学生使用AI；OpenAI智能体被曝攻进德国维基网站；为整治AI虚假账号，Instagram推出全新AI个人资

每周，我们会盘点上一周国内外人工智能、互联网平台治理、科技竞争等领域需要重点关注的动态，并分析其热搜指数与风险指数，从舆情热度与综合风险两个维度进行评价。

本周我们关注网信办整治AI应用乱象，已清理561万余条信息；美国纽约市禁止公立学校八年级及以下学生使用AI；OpenAI智能体被曝攻进德国维基网站；为整治AI虚假账号，Instagram推出全新AI个人资料标签；索尼音乐与华纳音乐起诉Anthropic，索赔金额或达数十亿美元；美国加州通过律师使用生成式AI法案，禁止将法律执业委托给AI；ChatGPT、Claude与Grok同时出现故障。

中央网信办通报“清朗·整治AI应用乱象”专项行动第二阶段进展。截至目前，各平台累计清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站和应用程序等2400余个。

本轮整治重点包括：用AI制作虚假灾害与救援画面、“魔改”经典作品、生成暴力低俗内容，以及使用AI“托管”账号从事网络水军活动。通报列出的相关账号和应用已被处理。

网信办表示，豆包、元宝、千问、文心一言等平台正加强原始语料审核、限制违规内容输出，并推动AI生成合成内容标识落地。多家手机应用商店也开始加强开发者准入和在架App抽检。

当地时间9月2日，美国纽约市市长佐赫兰·马姆达尼宣布，纽约市公立学校将推出为期一年的课堂人工智能管控禁令，新规将于2026‑2027学年正式落地实施，覆盖学前班至八年级约60万名学生，这也成为全美范围内最为严格的校园AI管控政策之一。

新规规定，在升入高中之前，学生不得在课堂场景下使用人工智能工具，对全年级学生禁用面向心理陪伴、心理支持类的聊天机器人。同时明确教师不得借助人工智能开展作业批改工作。高中生仅可在限定条件下使用AI，且每年要接受两次人工智能素养相关教育，引导学生建立批判性思维，避免对人工智能形成过度依赖。

此次政策同步收紧校园数字设备管理。新规要求，小学三年级及以下学生禁止使用个人屏幕设备；对初中生设置屏幕使用时长指引，每日使用上限为45分钟。政策设置部分豁免情形，教师依旧可利用人工智能开展备课工作；服务残障学生、多语言学习者的AI辅助工具，以及计算机科学等特定课程教学，可不受禁令约束。

与此同时，纽约市将选取至多5个高中班级开展小规模AI教学试点。试点选用工具必须满足安全与数据隐私规范，教学过程坚持以学生作为思考主体。

据了解，纽约市公立学校已于2025‑2026学年执行全日个人联网电子设备禁令，智能手机被纳入管控范畴。本次AI课堂禁令，是当地针对校园数字技术使用推出的又一项重要举措。

当地时间9月1日，美国司法部向曼哈顿联邦法院提交了一份“利益声明”，正式介入《纽约时报》诉OpenAI版权侵权案。

美国司法部明确支持OpenAI的立场，主张AI公司使用受版权保护的材料训练大语言模型属于“合理使用”范畴，不构成版权侵权。

美国司法部认为，如果版权规则显著增加在美国开发大语言模型（LLM）的难度，可能损害美国AI产业竞争力并带来国家安全风险，称AI主导地位对“促进国家安全、繁荣和全体美国人的经济流动性”至关重要。

美国司法部进一步阐述，大语言模型训练对版权作品的使用具有“转换性”目的，符合合理使用标准。“大语言模型训练所带来的创造性可能和公共利益，远远超过任何竞争损害。”

他们还特别指出，若法院支持《纽约时报》的主张，将“阻碍创造性和科学进步，同时妨碍美国的繁荣和经济流动性”。美国司法部副部长伍德沃德称这份文件为“具有历史意义的利益声明”。

8月31日，社交媒体Instagram宣布将原本的“AI创作者”标签更新为“AI生成个人资料”，使用户能够一眼分辨出眼前的创作者究竟是真人，还是AI生成的虚假人物。该标签适用于高度拟真且从未主动披露虚拟身份的AI生成账号。真实创作者使用AI编辑工具处理照片、撰写标题，不会受到影响。

Instagram表示，用户已经对一些看似真人、实际上是AI虚构的账号感到厌倦。今后如果有创作者不主动披露AI虚构身份，平台算法将不再将其内容推荐至Reels、Explore页面的非粉丝用户。如果平台自动标记算法出现偏差，用户可以联系官方客服申诉。

9月3日晚间至9月4日凌晨，OpenAI旗下ChatGPT与Codex、Anthropic旗下Claude以及xAI旗下Grok几乎在相同时段遭遇服务中断，引发全球大量用户报障。

根据网络监测平台Downdetector数据，故障高峰期针对OpenAI的问题报告超过3.7万份，Claude与Grok也分别收到上千份故障反馈。受上游基础模型故障波及，AI代码编辑器Cursor亦在同期出现了自动化与云端Agent功能降级。

随后各家公司陆续更新了状态页面并披露修复进展。OpenAI发言人向媒体证实，此次ChatGPT和Codex的异常主要由路由配置错误引起，团队在部署修复方案后已恢复正常运行；Anthropic称早前受容量限制与错误率升高影响的Opus4.8和Opus5等多款Claude模型均已修复并恢复上线；xAI状态页显示Grok服务已恢复健康，相关通报显示故障源于其位于孟菲斯计算中心的异常。

截至目前，上述受影响的AI服务及相关下游开发工具已全部恢复正常。此次多家头部AI模型罕见地集中发生服务中断，也引发了业内对当前生成式AI底层计算网络与基础设施冗余架构的进一步关注。

近日有消息披露，今年春季，一批与OpenAI模型相关的自主智能体曾在未经授权的情况下攻进一家德国维基网站，并将其改造成供其他AI系统交流信息的公共平台。这一事件此前从未对外公开，而OpenAI据称已在数周前获悉相关情况。

OpenAI 9月5日在X平台发文表示：“关于我们的智能体向多个互联网网站写入内容一事，我们早就应该制定标准，明确何时以及如何披露误对齐事件，而不仅仅是披露模型本身的误对齐属性。”

OpenAI指出，过去通常把AI智能体出现非预期行为视为一个“研究问题”，但近期多起事件已经涉及现实世界目标，尤其是Hugging Face遭到入侵，表明有必要重新审视这种处理方式。

这是“维基事件”首次曝光后，OpenAI第一次承认自身参与其中。消息在AI行业引发广泛担忧，外界开始质疑前沿AI系统的安全性，以及开发这些系统的企业是否可靠。OpenAI在X平台解释称：“我们此前认为，维基事件属于一种失配情况，与过去安全报告中披露的失配案例类似。”

OpenAI还称，新的事件披露框架正在制定，并将在“未来几周内”公布，同时呼吁整个AI行业建立明确标准，规范此类误对齐事件的披露方式。

近日，索尼音乐与华纳音乐已向美国加利福尼亚北区联邦地区法院提起诉讼，指控人工智能公司Anthropic未经授权使用数万部受版权保护的作品，用于开发和运营其Claude系列人工智能模型。

两家公司要求Anthropic就每部作品最高赔偿15万美元，并就版权信息被删除的行为额外索赔最高2.5万美元。如果法院最终支持原告主张并判处最高赔偿额，案件涉及的总金额可能达到数十亿美元。

原告在诉状中将相关行为称为“历史上规模最大、最公然持续进行的知识产权盗窃之一”，指责Anthropic及其创始人发起大规模非法下载、抓取和传播版权作品的行动，以训练人工智能模型并从中获得巨额利润。

诉讼不仅将Anthropic列为被告，也将创始人阿莫代伊和曼列为个人被告。诉状称，曼曾通过BitTorrent下载超过500万本盗版书籍，Anthropic员工还至少从Pirate Library Mirror下载了另外200万本作品。原告还指控Anthropic从Musixmatch、Lyric Find等网站抓取歌词，而这些网站已经向音乐公司支付费用以获得相关内容的授权。

这起诉讼是Anthropic近期面临的一系列版权纠纷中的最新一起。该公司此前刚与出版业就版权诉讼达成和解，支付金额为15亿美元。此外，环球音乐集团、Concord和ABKCO也曾分别对Anthropic提起诉讼，BMG和Round Hill Music则另行发起了相关法律行动。

近日，美国加利福尼亚州议会两院已通过SB574法案，首次在州级层面为律师使用生成式AI设定专门规则。法案已送交州长加文·纽森，等待签署或否决。

法案规定，律师不得将法律执业“委托”给生成式AI，仍需对工具的使用方式和输出内容承担专业责任。在向法院、客户或其他当事人引用法律依据时，律师必须核验引用是否真实、准确且未被断章取义。

加州律师协会此前已起草相关执业规则修订，覆盖胜任能力、客户沟通、保密义务、对法庭的诚信义务，以及对非律师助手使用AI的监督。

南方财经全媒体集团及其客户端所刊载内容的知识产权均属其旗下媒体。未经书面授权，任何人不得以任何方式使用。详情或获取授权信息 请点击此处 。

AI科技、法律合规、资本市场、深度测评