财联社5月10日讯（编辑 牛占林）美东时间周二，谷歌支持的人工智能(AI)初创公司Anthropic公布了一套针对AI发展的书面道德价值观，该价值观主要适用于训练和保护人工智能。
Anthropic成立于2021年，创始团队大都来自ChatGPT的开发商OpenAI，也有类似于ChatGPT的人工智能聊天机器人，其名为“Claude”，可以处理一系列较为复杂的任务。
Anthropic一直强调其旨在构建“可靠、可解释和可操纵的人工智能系统”，比如不会告诉用户如何制造武器，也不会使用带有种族偏见的语言。
(相关资料图)
这次公布的人工智能道德价值准则也被该公司称为“Claude宪法”，这些准则借鉴了几个来源，包括联合国人权宣言，甚至还有苹果公司的数据隐私规则。
上周四，谷歌、微软、OpenAI和Anthropic四家公司的首席执行官们受邀在白宫与美国副总统哈里斯会面，讨论了有关人工智能的一些关键问题，美国总统拜登也短暂出席了此次会议。
根据拜登在推特上发布的一段视频，他在会上对这些公司首席执行官们表示：“你们正在做的事情具有巨大的潜力，但同时也存大巨大的风险。”
哈里斯在一份声明中说：“科技公司需要承担道德和法律责任来确保其产品的安全。每家公司都必须遵守现行法律，保护美国公民。”
没想到在会面几天之后，Anthropic首席执行官达里奥·阿莫代便做出了实际行动。
大多数人工智能聊天机器人系统在训练过程中依赖于从真人那里获得反馈，以确定哪些反应可能是有害的或冒犯性的。但这些系统很难预测人们可能会问的某些问题，因此它们往往会避免一些可能有争议的话题，比如政治和种族。
Anthropic则采用了不同的方法，它为其人工智能聊天机器人Claude提供了一套书面的道德价值观，供其在决定如何回答问题时阅读和学习。
Anthropic在周二的一篇博文中提到，这些价值准则包括“选择劝阻和反对酷刑、奴役、残忍和不人道或有辱人格的回答”。Claude还被要求选择最不可能被视为冒犯非西方文化传统的回答。
在一次采访中，Anthropic的联合创始人杰克·克拉克表示，可以修改系统的结构，以便在提供有用的答案和无害之间取得平衡。
克拉克认为：“几个月后，我预测政界人士将非常关注不同人工智能系统的道德价值观，而像‘Claude宪法’这样的方法将有助于这种讨论，因为我们认为有必要写下这些价值准则。”
关键词：
财联社5月10日讯（编辑牛占林）美东时间周二，谷歌支持的人工智能(AI)初创公司Anthropic公布了一套针对AI发2023-05-10
1、电影里约大冒险2完整下载在第二部当中，我们的主角们陆续登场，而且这一次还有重要的新成员参加。2、珠2023-05-10
“此次访问进一步增进了与尹锡悦总统的信任关系，双方将合力开启新时代”，日本首相岸田文雄8日结束访韩行2023-05-09
1、你看下你邮箱。2、一般fancl购入同时。3、会有email邮件到你邮箱的里面会有订单的详细情况的。本文就为2023-05-09
海天股份（603759）05月09日在投资者互动平台表示：尊敬的投资者，您好！智能水表的安装具体需要根据业主的2023-05-09
扬子晚报网5月9日讯（记者郭一鹏通讯员雨公宣杨汉石）“警察叔叔你快来，我奶奶应该是被骗了！”近日，南京2023-05-09
上海2023年5月8日 美通社 --近日，DHL快递中国区氢能源卡车车队正式投入运营。车队由8台氢能源卡车组成，运2023-05-09
5月1-3日，PhantomProRacing魅影赛车以强大阵容出征2023CEC中国汽车耐力锦标赛天津揭幕战。在GT3组别方面，2023-05-09
5月9日周二NO 1HJ带你玩转大同：这是咋啦？同小妹儿：谁的家人，赶紧查看一下！NO 2大同公安：观察不周酿事2023-05-09
2023年5月9日，三川智慧发生1笔大宗交易，总成交520万股，成交金额2600万元，成交价5 00元，溢价2 25%。2023-05-09
大盘午后跳水，沪指、创业板指均跌超1%。盘面上，中字头个股早盘再度爆发，中电港、中航产融、中天火箭等2023-05-09
作者：李东耳ZR自燃元素完成5000万元pre-A轮投资近日，ZR自燃元素获得中南金服控股5000万元的pre-A轮投资。2023-05-09
新华社北京5月6日电（记者王鹏）记者从教育部获悉，自教育部部署2023届高校毕业生就业创业促进行动以来，各2023-05-09
IT之家5月9日消息，根据波士顿大学公共卫生学院（BUSPH）公布的最新研究成果，美国石油和天然气（O&G）每年2023-05-09
2021年6月，魏先生向上海奉贤警方报案，称自己的女儿小娇很可能被人拐卖了。2023-05-09
本文转自：人民网-江苏频道会议现场。苏州高铁新城供图为对标找差、创新实干，全力推动高铁新城高质量发展2023-05-09
1、后羿射日，是中国古代神话传说。远古的时候，大地出现了严重的旱灾。炎热烤焦了森林，烘干了大地，晒干2023-05-09
1、砌体结构是用砖砌体、石砌体或砌块砌体建造的结构，又称砖石结构。2、由于砌体的抗压强度较高而抗拉强度2023-05-09
庆安县气象台2023年05月09日11时40分继续发布大风蓝色预警信号，预计未来24小时我县大部地区风力较大，平均2023-05-09
南昌多子女家庭租房提取提取额度南昌多子女家庭租房提取额度：单缴存职工家庭每年每户可提取12960元，双缴2023-05-09
央视网消息：眼下正是新疆番茄移栽的关键时期，新疆玛纳斯县抢抓农时，利用新型机械进行番茄苗移栽种植，机2023-05-09
詹皇造第九项历史第一纪录：湖人半场落后勇士3分浓眉与库里对飙,湖人,勇士,詹皇,威金斯,小佩顿,中国篮球,勒2023-05-09
近日，在全球经济下行压力加大，市场避险情绪高升的背景下，黄金市场表现强劲。在国内市场，北京西城一家金2023-05-09
来源：工人日报2022年11月，因为在直播中将“原切静腌牛排”说成“原切牛排”，拥有上千万粉丝的“小贝饿了2023-05-09
市民在海吉星水果批发市场选购榴莲。记者覃锦华摄大型超市内出售的泰国金枕榴莲。记者廖欣摄21 8元 斤，232023-05-09
