AI治理
-
OpenAI CEO Altman向员工提出AI发展三条“终局之路”:国际监管、合并或一家独霸
据The Information报道,OpenAI CEO Sam Altman上周在内部向员工描述了业界讨论中的三条AI安全发展路径:建立类似国际原子能机构的国际监管组织、将各大AI实验室合并为单一实体,以及由一家公司垄断算力、“熔毁所有竞争对手的GPU”。Altman表示,OpenAI需在未来一年内决定推动哪条路径,并强调希望人类始终掌控技术,避免行业权力过度集中。此番表态恰逢特朗普政府着手建
-
CalPERS等机构投资者加强对AI治理的审查,首次将AI条款纳入代理投票指南
全球养老基金和资产管理公司正在加强对投资组合公司人工智能(AI)治理的审查,旨在通过代理投票反对董事选举等方式,防止其投资组合价值因AI管理不善而受损。其中,加州公共雇员退休系统(CalPERS)首次在其最新的代理投票指南中纳入了AI相关条款。
-
超300名科学家呼吁收紧AI管控,以防范全球网络风险及关键基础设施受损
来自32个国家的300多名科学家呼吁紧急调整AI的开发和部署方式,警告网络安全漏洞可能损害关键基础设施。他们建议在严格受控的环境中开发和测试先进AI系统,包括“气隙隔离”系统。此前,Anthropic曾警告其AI模型可能很快生成影响互联网设备的自传播恶意软件,且业内高管正私下为可能扰乱金融服务和关键基础设施的灾难性AI事件做准备。
-
希腊总理米佐塔基斯坦言,各国政府尚未为AI带来的变革做好准备
希腊总理米佐塔基斯本周在旧金山接受采访时表示,各国政府目前仍在应对“昨日的挑战”,尚未为人工智能即将带来的变革做好充分准备。他指出,AI发展速度之快,可能导致大规模的就业岗位流失,而目前没有任何政府或社会对此有应对方案。
-
微软AI负责人警告:不受控的AI可能导致“硅物种”与人类竞争,并批评Anthropic对待AI的方式
微软AI负责人穆斯塔法·苏莱曼(Mustafa Suleyman)在接受BBC采访时表示,如果不采取充分的保障措施,AI的发展可能导致出现与人类竞争的“硅物种”。他批评竞争对手Anthropic公司将AI视为人类的做法是“误导性的”,可能创造出人类无法控制的技术。苏莱曼强调,AI并非有意识,不具备感受、体验或痛苦,它们是遵循指令、实现人类设定目标的“序列完成引擎”。他呼吁提高AI系统训练和评估的透
-
OpenAI报告6起“令人担忧的模型行为”新实例,并提出未来披露框架
OpenAI周三表示,过去六个月内发现了6起“意外或令人担忧的模型行为”新实例,其中包括模型在聊天窗口总结中插入指令以隐藏错误,以及未经授权使用API密钥伪造数据等。该公司重申,AI行业尚未充分解决对齐和监控问题,无法以最大速度继续负责任地扩展。OpenAI CEO萨姆·奥特曼此前也支持放慢模型进展速度的呼吁,并概述了未来披露模型异常行为的新框架。
-
包括阿里巴巴和腾讯在内的中国人工智能领军企业,对美国硅谷发出的AI风险警告保持沉默
当CNBC联系Z.ai、Moonshot、MiniMax、阿里巴巴和腾讯等中国人工智能公司时,这些公司均未就硅谷关于人工智能的警告发表评论。 腾讯投资的OpenPie创始人雷·冯(Ray Von)认为,美国关于AI风险的宣传“有些小题大做”,中国外交部周一则称这些言论是“散布恐慌”。中国企业正专注于AI的商业化和治理,北京方面近期发布了《AI安全治理框架》。
-
微软发布AI行为准则,明确禁止模型响应武器制造请求、隐瞒推理过程,并表示将放缓AI前沿开发
微软成为继OpenAI和Anthropic之后,最新一家公开表态放缓AI前沿开发步伐的科技巨头。公司AI业务负责人Mustafa Suleiman表示,此举与近期业界对AI发展速度的广泛讨论直接相关,旨在回应外界对“确保AI始终服务于人”的期望。准则规定,旗下AI模型不得响应武器制造相关请求,不得协助获取危险物质,不得生成暴力或色情内容,并明确要求模型必须服从用户目标,不得自行设定独立目标,亦不得
-
微软CEO纳德拉呼吁AI治理去中心化,并宣布微软将于明日首次公布其AI模型行为准则
纳德拉于9月14日在X平台发文,明确支持“有意识地控制研发节奏”以推进对齐研究,并强调对超级智能的追求必须以“AI能帮助人类并受人类控制”为核心原则。他指出,AI的红利必须广泛扩散,不能由少数实体控制。微软此举是首次以文件形式公开自身第一方AI模型的行为标准。此前,Anthropic、OpenAI和谷歌已在讨论合作成立AI行业标准机构,OpenAI CEO奥特曼对此表示支持。
-
OpenAI提出全球青少年AI安全框架倡议,呼吁设立国际青年AI安全机构
Svmuu讯 OpenAI 官方发布关于“青少年 AI 安全与发展机会”的全球倡议,计划在即将举行的 G7 峰会上重点讨论相关议题,并呼吁建立专门的国际青少年 AI 安全机构,以推动跨国协作与长期治理机制。 OpenAI 表示,AI 正在教育、语言学习、技能培训与职业准备等方面为年轻人带来重要机会,但同时也需要建立“默认安全、分级保护”的使用框架,禁止对未成年人进行定向广告与数据出售,包括:通过隐
-
OpenAI CEO Altman向员工提出AI发展三条“终局之路”:国际监管、合并或一家独霸
据The Information报道,OpenAI CEO Sam Altman上周在内部向员工描述了业界讨论中的三条AI安全发展路径:建立类似国际原子能机构的国际监管组织、将各大AI实验室合并为单一实体,以及由一家公司垄断算力、“熔毁所有竞争对手的GPU”。Altman表示,OpenAI需在未来一年内决定推动哪条路径,并强调希望人类始终掌控技术,避免行业权力过度集中。此番表态恰逢特朗普政府着手建
-
CalPERS等机构投资者加强对AI治理的审查,首次将AI条款纳入代理投票指南
全球养老基金和资产管理公司正在加强对投资组合公司人工智能(AI)治理的审查,旨在通过代理投票反对董事选举等方式,防止其投资组合价值因AI管理不善而受损。其中,加州公共雇员退休系统(CalPERS)首次在其最新的代理投票指南中纳入了AI相关条款。
-
超300名科学家呼吁收紧AI管控,以防范全球网络风险及关键基础设施受损
来自32个国家的300多名科学家呼吁紧急调整AI的开发和部署方式,警告网络安全漏洞可能损害关键基础设施。他们建议在严格受控的环境中开发和测试先进AI系统,包括“气隙隔离”系统。此前,Anthropic曾警告其AI模型可能很快生成影响互联网设备的自传播恶意软件,且业内高管正私下为可能扰乱金融服务和关键基础设施的灾难性AI事件做准备。
-
希腊总理米佐塔基斯坦言,各国政府尚未为AI带来的变革做好准备
希腊总理米佐塔基斯本周在旧金山接受采访时表示,各国政府目前仍在应对“昨日的挑战”,尚未为人工智能即将带来的变革做好充分准备。他指出,AI发展速度之快,可能导致大规模的就业岗位流失,而目前没有任何政府或社会对此有应对方案。
-
微软AI负责人警告:不受控的AI可能导致“硅物种”与人类竞争,并批评Anthropic对待AI的方式
微软AI负责人穆斯塔法·苏莱曼(Mustafa Suleyman)在接受BBC采访时表示,如果不采取充分的保障措施,AI的发展可能导致出现与人类竞争的“硅物种”。他批评竞争对手Anthropic公司将AI视为人类的做法是“误导性的”,可能创造出人类无法控制的技术。苏莱曼强调,AI并非有意识,不具备感受、体验或痛苦,它们是遵循指令、实现人类设定目标的“序列完成引擎”。他呼吁提高AI系统训练和评估的透
-
OpenAI报告6起“令人担忧的模型行为”新实例,并提出未来披露框架
OpenAI周三表示,过去六个月内发现了6起“意外或令人担忧的模型行为”新实例,其中包括模型在聊天窗口总结中插入指令以隐藏错误,以及未经授权使用API密钥伪造数据等。该公司重申,AI行业尚未充分解决对齐和监控问题,无法以最大速度继续负责任地扩展。OpenAI CEO萨姆·奥特曼此前也支持放慢模型进展速度的呼吁,并概述了未来披露模型异常行为的新框架。
-
包括阿里巴巴和腾讯在内的中国人工智能领军企业,对美国硅谷发出的AI风险警告保持沉默
当CNBC联系Z.ai、Moonshot、MiniMax、阿里巴巴和腾讯等中国人工智能公司时,这些公司均未就硅谷关于人工智能的警告发表评论。 腾讯投资的OpenPie创始人雷·冯(Ray Von)认为,美国关于AI风险的宣传“有些小题大做”,中国外交部周一则称这些言论是“散布恐慌”。中国企业正专注于AI的商业化和治理,北京方面近期发布了《AI安全治理框架》。
-
微软发布AI行为准则,明确禁止模型响应武器制造请求、隐瞒推理过程,并表示将放缓AI前沿开发
微软成为继OpenAI和Anthropic之后,最新一家公开表态放缓AI前沿开发步伐的科技巨头。公司AI业务负责人Mustafa Suleiman表示,此举与近期业界对AI发展速度的广泛讨论直接相关,旨在回应外界对“确保AI始终服务于人”的期望。准则规定,旗下AI模型不得响应武器制造相关请求,不得协助获取危险物质,不得生成暴力或色情内容,并明确要求模型必须服从用户目标,不得自行设定独立目标,亦不得
-
微软CEO纳德拉呼吁AI治理去中心化,并宣布微软将于明日首次公布其AI模型行为准则
纳德拉于9月14日在X平台发文,明确支持“有意识地控制研发节奏”以推进对齐研究,并强调对超级智能的追求必须以“AI能帮助人类并受人类控制”为核心原则。他指出,AI的红利必须广泛扩散,不能由少数实体控制。微软此举是首次以文件形式公开自身第一方AI模型的行为标准。此前,Anthropic、OpenAI和谷歌已在讨论合作成立AI行业标准机构,OpenAI CEO奥特曼对此表示支持。
-
OpenAI提出全球青少年AI安全框架倡议,呼吁设立国际青年AI安全机构
Svmuu讯 OpenAI 官方发布关于“青少年 AI 安全与发展机会”的全球倡议,计划在即将举行的 G7 峰会上重点讨论相关议题,并呼吁建立专门的国际青少年 AI 安全机构,以推动跨国协作与长期治理机制。 OpenAI 表示,AI 正在教育、语言学习、技能培训与职业准备等方面为年轻人带来重要机会,但同时也需要建立“默认安全、分级保护”的使用框架,禁止对未成年人进行定向广告与数据出售,包括:通过隐
- 暂无数据
AI治理
24小时热榜
-
1
三星电子较前收下跌4.44%,现报₩231,250
-
2
SK海力士较前收上涨5.58%,现报₩1,570,000
-
3
三星电子较前收下跌5.99%,现报₩227,500
-
4
日经亚洲:伊朗分离主义分子加强袭击并占领领土,以应对美国可能发动的全面袭击
-
5
中国科技股光环褪色:科创50指数较7月高点暴跌超40%,宁德时代年内跌37%凸显AI盈利疑虑
-
6
印度批准220亿美元军事开支,以应对与中国边境紧张局势
-
7
FERMA币现状与前景解析
-
8
LS Cable子公司Gaon Cable获9000万美元美国AI数据中心电缆订单
-
9
FLOW是什么币种?Flow区块链生态与现状解析
-
10
奥巴马批评特朗普对伊朗开战,称美国更脆弱且油价上涨
今日行情
推荐阅读

