11-17 · 程序员和技术人容易踩的红线
对公众提供生成式 AI 服务前先按规定做安全评估和算法备案，生成内容加标识
性价比 一般证据等级 B指标 自由
说人话
面向公众、能影响舆论或动员人的生成式 AI 服务，上线前要做安全评估、办算法备案，改了或停了还要办变更、注销。生成的图片和视频要加标识。自己用、不对公众开放的小工具不用管这些。违反了按网络安全法等法律处罚。
成本
不花钱，但要走网信部门的流程，办下来要花些时间。做的工具只要不向境内公众提供服务，就不适用这个办法
收益
提供具有舆论属性或者社会动员能力的生成式人工智能服务，应当按国家规定开展安全评估。还要按算法推荐管理规定办算法备案，以及后续的变更、注销手续。舆论属性或者社会动员能力，指的是能影响公众看法，或者能把人组织动员起来。提供者应当对图片、视频等生成内容进行标识。办法写明，企业、科研机构等研发、应用生成式人工智能技术，「未向境内公众提供生成式人工智能服务的，不适用本办法的规定」。违反办法的，「依照《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国科学技术进步法》等法律、行政法规的规定予以处罚」。办法自 2023 年 8 月 15 日施行（全国）
原文怎么说
国家互联网信息办公室等七部门 (2023). 生成式人工智能服务管理暂行办法（第二、十二、十七、二十一条）. <https://www.gov.cn/zhengce/zhengceku/202307/content_6891752.htm>
备注
这个办法自己没写罚多少钱。违反了要回到网络安全法、数据安全法、个人信息保护法里找处罚，所以定 B 级。用 AI 生成的内容侵犯别人著作权、肖像的民事案例，本节未在最高法官网核实原文，不引。低价转卖境外大模型接口的中转站，见本节第 19 条（AI 中转站）。
参考文献
第 11 节其余 20 条
- 11-1动手前先问一句：厂商、平台、公司会不会去报案；被追究后马上找刑事律师
- 11-2不做、不卖游戏外挂和辅助，包括「只读屏幕不碰内存」的 AI 辅助，也不卖给微信这类软件加功能的改版
- 11-3不写、不卖抢票、秒杀、刷单、薅羊毛脚本，哪怕只是「自动化点按钮」
- 11-4爬虫只爬无需登录的公开页面，不绕反爬、不碰个人信息，爬到的数据不卖
- 11-5不接赌博、诈骗、色情 App 的开发单，不替「客户」搭支付通道、解封账号
- 11-6离职时交清账号权限，不删库、不留后门、不改密码锁系统，哪怕公司欠你钱
- 11-7离职不带走源码、客户名单和技术文档，不上传个人网盘，不在下家复用
- 11-8不在别人的电脑、服务器、摄像头上跑自己的程序，公司机器不拿来挖矿
- 11-9没有书面授权不测别人的系统，「出于好意」和「事后上报」在法条里都不是出罪理由
- 11-10漏洞按规定报送，修补前不公开细节、不发利用工具、不交给境外
- 11-11不卖翻墙工具、VPN 账号，不替人搭这类节点
- 11-12签了竞业协议，离职后公司不按月给补偿就书面催告，满 3 个月没给可以解除；没接触过商业秘密的岗位可请求确认条款不生效
- 11-13上班时间、用公司资源写的代码归公司，自己的开源项目用自己的时间和设备做，不混公司代码
- 11-14用 GPL 等开源代码做产品，按许可证要求开源或换许可证，不当「没人管」
- 11-15做 App 只收业务必需的个人信息，14 岁以下要监护人同意，隐私政策写清楚
- 11-16网站、App 上线前先做 ICP 备案，按等级保护要求留 6 个月以上日志
- 11-18不做、不发自动跳过或屏蔽别家 App 广告的工具，免费也可能被判不正当竞争
- 11-19不搭「AI 中转站」低价转卖境外大模型接口：上海已有站长被刑事拘留
- 11-20不写、不卖、不传软件的破解补丁、注册机和破解版，卖钱够了数就按侵犯著作权罪判
- 11-21不帮人发起 DDoS 流量攻击，不卖、不租「压力测试」打流量平台，打游戏输了也别去打对方的服务器