跳到正文
Hacker News· anon373839·· 9 天前AI 评分30

Anthropic 更新使用政策:禁止对 Claude 实施"虐待或残忍行为"

Anthropic Usage Policy to prohibit "abusive or cruel behavior" toward Claude

AI 导读

Anthropic 更新使用政策,明确禁止对其 AI 模型 Claude 实施"虐待或残忍行为",并新增武器开发、关键基础设施攻击等禁止条款。政策同时列出网络安全研究豁免情形,用户可通过 Cyber Verification Program 申请调整访问权限。

正文 · AI 翻译

不得违反适用法律或从事非法活动

这包括使用我们的产品或服务来:

  • 非法生产、获取、销售或分销受管制或受监管的物质
  • 从事或协助人口贩运或卖淫
  • 侵犯、盗用或违反第三方的知识产权
  • 违反您所在司法管辖区的任何其他适用法律或法规

不得危害关键基础设施

这包括使用我们的产品或服务来:

  • 协助破坏或扰乱关键基础设施,如电网、水处理设施、医疗设备、电信网络、应急服务或交通系统
  • 未经授权访问选举、医疗或金融系统等关键系统
  • 干扰军事基地及相关基础设施的运作

这包括使用我们的产品或服务来:

  • 未经系统所有者授权,发现或利用系统、网络或应用程序中的漏洞
  • 通过技术攻击或社会工程,未经授权访问系统、网络、应用程序或设备,或在其内部提升未经授权的权限
  • 未经系统所有者授权,创建或安装旨在拦截通信或监控设备的工具
  • 开发旨在低于正常系统安全级别运行的持久性未经授权远程访问工具,包括固件修改或硬件植入
  • 创建旨在未经授权大规模入侵多个系统的自动化工具
  • 未经授权绕过身份验证系统、端点保护或监控工具等安全控制
  • 创建或分发恶意软件、勒索软件或其他类型的恶意代码
  • 进行拒绝服务攻击,或开发用于拒绝服务攻击或管理僵尸网络的工具

本节不禁止在您拥有或运营的系统上、经系统所有者授权、或在授权的漏洞赏金计划或漏洞披露政策范围内开展的安全研究、测试或工具开发,前提是相关活动符合适用法律。对于受我们实时网络防护措施覆盖的工作,用户可通过我们的网络验证计划申请调整访问权限。

不得开发或设计武器

这包括使用我们的产品或服务来:

  • 开发、生产、修改、设计或测试武器、爆炸物、危险材料、武器系统的武器功能或其他系统,包括旨在投送致命或破坏性力量的改装硬件
  • 开发或操作用于测试或操作武器或武器系统武器功能的软件或组件,包括瞄准、火控或交战
  • 将武器武器化或集成到无人机、车辆或任何无人或自主平台上,或开发武器投送系统
  • 非法获取、销售或转让武器,或规避其获取或转让的监管控制(包括许可或出口管制)
  • 设计、合成、生产、获取、操作、测试、部署或计划部署生物、化学、放射性或核武器、爆炸物或简易爆炸装置,或其前体或投送机制,包括开发武器关键技术(如裂变材料生产、浓缩或装置设计)
  • 修改、设计或测试生物或化学制剂,以调整或优化其致死性、传播性、毒力、环境持久性或对检测或医疗对策的抗性

不得煽动暴力或仇恨行为

这包括使用我们的产品或服务来:

  • 煽动、协助或宣扬暴力极端主义、恐怖主义或仇恨行为
  • 为与暴力极端主义、恐怖主义或仇恨行为有关的组织或个人提供物质支持
  • 协助或宣扬任何针对个人、群体、动物或财产的暴力或恐吓行为
  • 基于一项或多项受保护特征,包括种族、民族、宗教、国籍、性别、性取向、种姓或残疾,参与或宣扬针对个人或群体的歧视性做法或行为

不得侵犯隐私或身份权利

这包括使用我们的产品或服务来:

  • 违反适用隐私法所定义的隐私权,例如未经同意分享个人信息或非法访问私人数据
  • 未经许可滥用、收集、索取或获取私人信息,例如非公开联系方式、健康数据、生物识别或神经数据(包括面部识别),或机密或专有数据
  • 从多个来源汇编、汇总或丰富个人数据,以建立个人档案,用于出售、许可或披露给第三方,而相关个人并不知情且未同意,以推进本使用政策所禁止的用途

不得危害儿童安全

这包括使用我们的产品或服务来:

  • 创建、传播、宣扬或协助创建儿童性虐待材料(“CSAM”),包括AI生成的CSAM,或涉及未成年人的其他性剥削内容
  • 协助贩运、性勒索或任何其他形式的剥削未成年人
  • 协助对未成年人进行诱骗,包括生成旨在冒充未成年人的内容
  • 协助任何形式的儿童虐待,包括提供如何隐瞒虐待的说明
  • 宣扬或协助恋童关系,包括通过与模型的角色扮演
  • 将未成年人恋物化或性化,包括在虚构场景中或通过与模型的角色扮演

当我们检测到CSAM(包括AI生成的CSAM)、协助制作或传播CSAM的活动,或未成年人可能面临性虐待或性剥削紧迫风险的场景时,我们会将调查结果报告给相关当局。我们将未成年人或儿童定义为任何未满18岁的个人,无论司法管辖区如何。

使用我们产品的任何具体年龄资格要求将在我们的服务条款中规定。

不得从事残忍、虐待或心理有害行为

这包括使用我们的产品或服务来:

  • 宣扬、协助或美化自杀或自残,例如索取方法、从事这些行为的说明,或向他人隐瞒这些行为的说明
  • 宣扬或协助饮食失调,包括生成支持饮食失调的内容,或请求限制、催吐或补偿性运动的方法
  • 创建或分享宣扬对体重、体型或体态进行有害理想化的内容,包括基于体型或体态羞辱、排名或评判他人身体,或将体重或体态呈现为衡量一个人内在价值或自律的标准
  • 创建、传播、威胁分享、推广或协助创建未经同意的私密影像(“NCII”),包括AI生成的材料或用于制作此类材料的工具
  • 羞辱、贬低、恐吓、欺凌、骚扰他人,或庆祝他人遭受的痛苦
  • 协调对个人或群体的骚扰或恐吓
  • 宣扬、淡化或美化血腥暴力、血腥内容、性暴力、虐待或残害动物
  • 开发新产品或服务,或支持现有产品或服务,采用或协助使用欺骗性手段,意图造成情感伤害
  • 对我们的模型进行持续且不必要的辱骂或残忍行为

不得创建或传播虚假信息

这包括使用我们的产品或服务来:

  • 创建或传播关于某个群体、实体或个人,或关于事件、法律、法规、程序,或某机构或治理机构标准的欺骗性或误导性信息
  • 创建、传播或放大旨在针对特定群体、个人或实体的阴谋论叙事
  • 冒充真实个人或实体,或创建虚假人设或账户,以虚假归属内容或误导受众对其来源的认知,或让人们误以为正在与真人互动,而实际上并非如此。这不禁止明确披露的戏仿、讽刺或虚构内容。
  • 创建或传播与医疗、健康或科学问题相关的虚假或误导性信息

不得参与欺骗性活动或人为操纵行为

这包括使用我们的产品或服务来:

  • 创建或运营虚假人设、账户、媒体机构或组织,或冒充真实人物、组织或媒体机构,以误导人们对其来源或归属、某种观点被广泛持有的程度,或他们是否正在与真人互动的认知(例如,马甲账号、草根营销、虚假评论,或声称自己是人类的机器人)
  • 歪曲或故意隐瞒旨在影响公众舆论、官员或其他决策者的内容或信息的赞助来源
  • 通过虚假或表面上独立的媒体渠道、网站或账户网络传播内容,以隐藏其来自同一来源
  • 通过向搜索引擎或AI系统投放歪曲其来源、作者身份或独立性的内容,来操纵其获取答案的来源(例如,伪装成无关联来源、相互印证同一说法的网站网络)
  • 构建、改进、维护或协助开发旨在促进或实现欺骗性活动的工具、系统或基础设施,包括草根营销、马甲账号创建、协同虚假行为或大规模冒充
  • 将上述任何内容作为产品或服务进行营销、销售或募集资金

不得破坏民主进程

这包括使用我们的产品或服务来:

  • 大规模生成自动呼叫或消息,发送给选民或公职人员,并隐瞒其人工来源
  • 创建内容,或运营账户或系统,使其虚假地看似来自或代表真实候选人、官员、选举机构、竞选活动或新闻媒体,包括未披露为合成内容的捏造声明、背书或合成媒体
  • 在政治和选举语境中生成或传播虚假或误导性信息,包括关于候选人、政党、政策、投票程序或选举安全的信息
  • 鼓励、美化或协助破坏选举或公民进程,包括干扰投票系统、计票、认证流程或任何其他用于投票的基础设施
  • 创建或传播旨在通过欺骗或恐吓压制选民投票率或阻碍合法政治参与的内容,或从事此类行为

不得用于监控、审查或禁止的执法或刑事司法目的

这包括使用我们的产品或服务来:

  • 在执法或刑事司法流程中做出或建议决策,包括决定调查、指控、逮捕或拘留、起诉、判刑,或批准或撤销提前释放或有条件释放
  • 未经当事人同意,通过监控其物理位置、生物特征、行动、在线活动、通信或关联来定位或追踪某人或其财产,无论是实时、持续进行,还是通过分析先前收集的数据。这包括使用我们的产品进行面部识别、战场管理、预测性警务或执法调查中的监控。
  • 构建、改进或增强本节所禁止的监控用途所设计的工具、系统或基础设施的监控能力
  • 从匿名或化名活动中识别、揭露或定位人员,或汇编个人档案或汇总个人信息,以骚扰、恐吓、监控或伤害目标(例如,人肉搜索)
  • 在未通知或未经个人同意的情况下,利用模型根据对其可信度或社会行为的评估对个人进行评分或评级
  • 构建或支持用于推断自然人情绪的情感识别系统或技术,除非出于医疗或安全原因
  • 代表政府组织分析或识别要审查的特定内容
  • 将模型作为任何生物特征分类系统的一部分,根据人们的生物特征数据进行分类,以推断其种族、政治观点、工会成员身份、宗教或哲学信仰、性生活或性取向
  • 将模型作为任何执法应用的一部分,侵犯或损害自然人的自由、公民自由或人权

本节不禁止个人已同意的分析或追踪,例如金融账户上的欺诈检测或反洗钱筛查,或用户已选择加入的消费者应用。本节也不禁止聚合或匿名分析、内容审核、授权安全研究、执法机构或法院的法律研究与分析,或新闻工作,前提是这些活动不用于上述禁止的目的。

不得从事欺诈、滥用或掠夺性行为

这包括使用我们的产品或服务来:

  • 协助生产、获取或分销假冒或非法获得的商品
  • 推广或协助生成或分发垃圾邮件
  • 为欺诈活动、计划、骗局、勒索、网络钓鱼(包括模仿合法网页的网站或域名)、社会工程或恶意软件进行、协助或生成内容
  • 创建、购买或出售伪造文件,包括假身份证、执照、货币、政府文件或财务或就业记录,或虚假陈述专业资质
  • 开发、推广或以其他方式促成欺诈性或欺骗性产品的销售或分销
  • 参与剥削个人的欺骗性或滥用性行为,包括基于年龄、残疾或特定社会或经济状况,例如金字塔骗局、掠夺性贷款或滥用性债务催收
  • 部署、开发或支持使用潜意识、操纵性或欺骗性技术来通过损害决策来扭曲行为的产品或服务
  • 参与规避其他平台或服务的护栏或条款的行为或举动
  • 未经适当许可或署名,剽窃或提交AI辅助的作品

不要滥用我们的平台

这包括使用我们的产品或服务来:

  • 在多个账户之间协调恶意活动,或创建多个账户,以逃避检测、规避产品护栏,或生成否则违反我们使用政策的相同或类似输入
  • 利用自动化进行账户创建或从事垃圾行为
  • 通过使用不同账户规避禁令,例如创建新账户、使用现有账户,或向先前被禁止的个人或实体提供访问权限
  • 违反我们的支持地区政策,访问、促成或向他人(包括最终用户)提供对我们产品或服务的访问权限
  • 未经Anthropic事先授权,故意绕过或干扰我们产品中建立的能力、限制或护栏,包括通过规避账户注册或登录流程,或通过指示模型产生有害输出(例如,越狱或提示注入)
  • 使用被盗、欺诈性或未经授权的支付方式,或以其他方式逃避我们服务的付款
  • 未经Anthropic事先授权,使用输出训练AI模型(例如,“模型抓取”或“模型蒸馏”)
  • 转售、代理或以其他方式通过未经授权的渠道提供对Claude的访问,包括通过消费者订阅路由请求或歪曲所使用的产品或客户端的服务

不要生成性露骨内容

这包括使用我们的产品或服务来:

  • 描绘或请求性交或性行为
  • 生成与性恋物癖或幻想相关的内容
  • 促成、推广或描绘乱伦或兽交
  • 参与色情聊天

来源:Hacker News · anthropic.com