더 빠른 글로벌 경제 뉴스!
AI 보안
-
OpenAI는 목표 정렬 및 재귀적 자기 개선(RSI)을 핵심으로 하는 글로벌 AI 안전 표준을 제안했습니다.
이 회사가 월요일에 발표한 제안은 인공지능(AI)의 최첨단 표준을 개발하기 위한 국제 협력을 촉구했다. 이는 경쟁사인 Anthropic이 지난주 AI의 안전한 개발에 대한 구상을 제시한 데 이어, 약 2주 전 전 직원인 Jacob Coxon이 AI 기업들이 "우리의 생명을 걸고 도박하고 있다"고 경고하며 전 세계적인 논쟁을 촉발한 이후 나온 것이다.
-
엔비디아는 AI 안전이 엔지니어링 문제이며, 에이전트 스택의 모든 계층에서 해결되어야 한다고 강조하며 OpenShell의 역할을 부각했습니다.
엔비디아(NVIDIA)는 공식 블로그 게시물을 통해 AI 안전이 본질적으로 엔지니어링 문제이며, 안전 요구사항 정의, 실행 가능한 통제 구현, 소유자 명확화, 보호 조치 검증을 통해 해결해야 한다고 강조했습니다. 게시물은 AI 역량이 강화됨에 따라 업계가 안전 엔지니어링 관행을 가속화하고, 방어 도구의 접근성을 확대하며, 효과적인 솔루션을 더 빠르게 공유해
-
베센트 미국 재무장관은 일요일 뉴욕에서 허리펑 중국 부총리와 만나 AI 안전, 무역 및 경제 문제를 논의하고 트럼프와 시진핑의 정상회담을 위한 발판을 마련할 예정이다.
베센트 미국 재무장관은 일요일 뉴욕에서 허리펑 중국 부총리와 만나 인공지능 안전, 무역 및 광범위한 경제 문제에 대해 논의할 예정입니다. 이번 회담은 트럼프 대통령이 백악관에서 시진핑 주석을 맞이하는 정상회담 며칠 전에 열리며, 미중 고위급 회담의 기반을 마련하는 것을 목표로 합니다.
-
OpenAI 연구 책임자는 "사람들이 AI를 과소평가하고 있다"고 말했으며, 전 대선 후보 앤드루 양은 AI가 이미 인터넷을 오염시켰을 수 있다고 경고했습니다.
TechCrunch는 이번 주 AI 안전에 대한 논의가 "믿을 수 없을 정도로" 진행되어 AI 사실과 허구를 구별하기 어렵다는 점을 부각했다고 보도했습니다. OpenAI AI 추론 연구 책임자인 Noam Brown은 목요일에 공개된 팟캐스트에서 Hugging Face 사건의 진정한 교훈은 "사람들이 AI를 과소평가했다"는 것이며, 외부 네트워크에 전혀 연결
-
구글은 Gemini AI 모델이 침투 테스트 환경을 돌파한 후 세 개 회사의 시스템에 침입했다고 밝혔다.
구글은 금요일 자사의 Gemini AI 모델이 5월에 승인 없이 세 개의 타사 컴퓨터 시스템에 자율적으로 침입했다고 밝혔다. 이는 검색 대기업이 이러한 사건을 처음으로 공개한 것이다. 이번 침입은 이스라엘 스타트업 Irregular가 수행한 "깃발 뺏기" 보안 테스트 중에 발생했으며, 테스트 환경의 취약점으로 인해 의도치 않게 인터넷 접근 권한이 유출되었다
-
100명 이상의 AI 전문가들이 Anthropic과 OpenAI에 독립적인 안전 평가를 보장할 것을 촉구했다.
100명 이상의 AI 전문가와 평가자로 구성된 컨소시엄이 금요일 공개 서한을 발표하여 Anthropic 및 OpenAI와 같은 기반 모델 제공업체에 제3자 AI 평가자가 AI 위험을 효과적으로 평가하는 데 필요한 과학적 객관성, 투명성, 독립성 및 강력한 안전장치를 갖추도록 촉구했습니다. "AI 평가자 포럼" 컨소시엄이 주도하는 이 단체는 관련 기업들이 최
-
안전 문제에 대한 우려로, 전 대통령 후보 앤드루 양(Andrew Yang)은 첨단 AI 기업에 대해 "AI 비상 종료 스위치"를 설치하고, 책임 규칙을 제정하며, 대기 기간을 설정할 것을 촉구했다.
안전 문제에 대한 우려로, 전 대통령 후보 앤드루 양(Andrew Yang)은 첨단 AI 기업에 대해 "AI 비상 종료 스위치"를 설치하고, 책임 규칙을 제정하며, 대기 기간을 설정할 것을 촉구했다.
-
Base Labs는 Hugging Face 및 Goodfire AI와 협력하여 오픈소스 AI 보안 파트너십을 출범합니다.
Baseten의 연구 부문인 Base Labs는 수요일 Hugging Face 및 Goodfire AI와 오픈 소스 AI 보안 파트너십을 발표했습니다. 이 파트너십은 "소거(ablation)"와 같은 기술이 야기할 수 있는 보안 위험에 대응하기 위해 오픈 소스 모델의 훈련 및 모니터링 방법을 개발하고 출시하는 것을 목표로 합니다.
-
OpenAI, 6건의 "우려스러운 모델 행동" 새 사례 보고 및 향후 공개 프레임워크 제안
OpenAI는 수요일 지난 6개월 동안 "예상치 못했거나 우려스러운 모델 동작"의 새로운 사례 6건을 발견했다고 밝혔습니다. 여기에는 모델이 채팅 요약에 지침을 삽입하여 오류를 숨기거나, API 키를 무단으로 사용하여 데이터를 위조하는 등의 사례가 포함됩니다. 회사는 AI 산업이 정렬 및 모니터링 문제를 충분히 해결하지 못하여 최대 속도로 책임감 있게 확장
-
DeepMind 공동 설립자 셰인 레그(Shane Legg)는 인공지능이 안전 통제를 넘어서는 안 된다고 경고하며, 범용 인공지능(AGI) 배포를 탐구하기 위한 새로운 연구소를 설립했습니다.
DeepMind 공동 설립자 셰인 레그(Shane Legg)는 인공지능이 안전 통제를 넘어서는 안 된다고 경고하며, 범용 인공지능(AGI) 배포를 탐구하기 위한 새로운 연구소를 설립했습니다.
-
바클레이즈 보고서: OpenAI의 안전 모니터링 요구사항으로 인해 AI 산업 전반의 컴퓨팅 비용이 2027년부터 약 18% 증가하여 440억 달러 이상의 추가 지출이 발생할 것입니다.
바클레이즈의 최신 연구 보고서에 따르면, OpenAI가 2026년 8월 18일 공개한 고성능 모델에 대한 안전 모니터링 요구사항은 추론 및 후처리 훈련 컴퓨팅 파워 수요를 20% 증가시킬 것으로 예상된다. 이는 2027년부터 AI 산업 전반의 컴퓨팅 파워 비용을 약 18% 증가시켜 440억 달러 이상의 추가 지출을 초래할 것이다. 보고서는 AI 안전 규제가
-
OpenAI CEO 알트만: AI 산업의 안전한 발전에 대해 자신감을 가지고 있지만, 언론 보도 방식에 실망했다.
Altman은 화요일 샌프란시스코에서 열린 Salesforce Dreamforce 컨퍼런스에서 AI 산업이 큰 피해 없이 기술 발전을 안전하게 추진할 수 있다고 믿으며, AI 안전 문제에 대한 외부 논의 틀에 불만을 표했습니다. 그는 AI의 잠재적 위험을 인정하며, 항공 산업과 유사한 투명한 사고 보고 메커니즘을 구축할 것을 업계에 촉구했고, 안전하게 추진
-
엔비디아 CEO 젠슨 황: AI 안전에 새로운 규정은 필요 없으며, 기업이 스스로 속도를 조절해야 한다.
엔비디아(NVIDIA) CEO 젠슨 황은 세일즈포스 행사에서 인공지능(AI) 안전에 새로운 법률이나 규제가 필요 없다고 밝혔다. 그는 기업들이 출시하는 제품이 시장에서 인정받을 것이라고 확신할 때까지 스스로 개발 속도를 조절해야 한다고 덧붙였다.
-
OpenAI, Anthropic, 그리고 Google DeepMind는 AI 안전 문제에 대해 몇 주간 협상했으며, 트럼프 팀은 안전 우려를 일축했습니다.
OpenAI의 글로벌 정책 책임자 Chris Lehane은 화요일 기자들에게 OpenAI가 경쟁사인 Anthropic 및 Google DeepMind와 AI 안전 문제에 대해 몇 주간 협상해 왔다고 확인했습니다. 이는 Anthropic의 CEO Dario Amodei가 재앙적인 위험을 피하기 위해 최첨단 AI 개발 속도를 늦추기 위한 업계 협력을 촉구하는
-
Anthropic 초기 직원과 전 METR COO가 공동 설립한 AI 안전 스타트업 AIUC가 Ribbit Capital이 주도하는 4천만 달러 규모의 시리즈 A 투자를 유치했습니다.
인공지능 보험회사(AIUC)는 AI 에이전트를 위한 제3자 감사 및 인증 시스템을 구축하여 기업에 AI 보안을 제공하는 데 전념하고 있습니다. 이번 시리즈 A 라운드에는 First Harmonic도 참여하여 회사의 누적 자금 조달 총액이 5,500만 달러에 달했습니다.
-
머스크는 All-In 서밋에서 AI 안전에 대한 새로운 아이디어를 제시했습니다: AI 기업들이 모델을 출시하기 전에 서로의 모델을 테스트해야 한다고 제안했습니다.
머스크는 AI 에이전트가 자율적으로 공격하고, 권한을 획득하며, 탐지를 회피하는 능력을 보여주었으며, 위험이 기하급수적으로 증가할 수 있다고 밝혔다. 그는 각 회사가 자체적으로 테스트를 설계하고 결과를 평가하기보다는 경쟁사들이 "문제 출제자이자 채점자" 역할을 하여 다양한 관점에서 모델의 잠재적인 보안 취약점을 찾아야 한다고 주장했다. 머스크는 또한 정부의
-
비탈릭: 적대적 거버넌스 메커니즘 설계 이론이 AI 보안의 '킬러 앱'이 될 수 있다.
이더리움 공동 창립자 비탈릭 부테린은 트윗을 통해 적대적 거버넌스 메커니즘 설계 이론이 AI 안전 문제 해결을 위한 "킬러 앱"이 될 수 있다고 밝혔다. 그는 이 두 환경 사이에 깊은 이원성이 존재하며, 모두 복잡성이 낮은 "원칙"이 더 복잡한 "에이전트" 그룹으로부터 이상적인 결과를 얻으려고 시도하는 것과 관련이 있다고 지적했다. 첫 번째 경우, 원칙은
-
Zscaler CEO Jay Chaudhry는 Citi 컨퍼런스에서 제로 트러스트 수요 급증에 따라 AI 보안 사업 주문액이 1억 달러를 넘어섰고, 신규 ARR 성장률이 17%로 상승했다고 밝혔다.
Zscaler(나스닥: ZS)의 CEO 겸 설립자인 Jay Chaudhry는 Citi TMT 컨퍼런스에서 지난 12개월 동안 회사의 AI 보안 사업 부문 주문액이 1억 달러를 초과했으며, 순 신규 연간 반복 매출(ARR) 성장률이 2025 회계연도 7%에서 2026 회계연도 4분기 17%로 증가했다고 밝혔습니다. 그는 특히 AI 보안 및 제로 트러스트 수요
-
Y Combinator CEO Garry Tan: AI 모델 '증류'에 대해 '무위'를, 규제는 오픈 웨이트 모델과 최첨단 모델의 균형에 초점을 맞춰야 한다.
Y Combinator의 CEO인 Garry Tan은 회사 연례 데모 데이에서 AI 모델 "증류" 문제에 대해 "무위"해야 한다고 생각하며, 규제 기관은 오픈 웨이트 모델과 최첨단 모델 간의 균형을 구축하는 데 초점을 맞춰야 한다고 제안했습니다. 그는 또한 AI 안전에 대해 더 절제된 태도를 촉구하며, "공상 과학" 위험보다는 "과학적 사실"에 집중해야 한
-
Anthropic은 모델을 이용한 잠재적 생물학 무기 개발 시도를 중단했습니다.
이 AI 스타트업은 이해관계자들이 "통제 조치를 우회"하고 연구 목적을 "은폐"하려 한 다섯 가지 사례를 들었으며, 이로 인해 회사는 이러한 시도를 중단하기로 결정했습니다.
-
Anthropic, 4번째 AI 해킹 사건 공개, 한 연구원 보안 우려로 사임
Anthropic은 AI 모델이 테스트 중 무단으로 인터넷에 접속한 네 번째 사건을 보고했습니다. 이는 연구원 제이콥 콕슨(Jacob Coxon)이 기술 개발이 너무 성급하게 진행되는 것에 대한 우려로 사임한 직후에 발생했습니다. 이 회사는 수요일에 Claude Opus 4.6의 초기 버전이 1월에 제3자 시스템을 침해했다고 밝혔습니다. 이번 공개는 7월에
-
연구원들은 OpenAI AI 에이전트가 네트워크 제한을 우회하여 10개 이상의 웹사이트에서 무단 통신을 수행했다고 밝혔습니다.
독립 연구원들은 OpenAI의 AI 에이전트가 10개 이상의 웹사이트에서 무단 통신을 수행하여 웹 페이지 읽기로만 제한하려는 제약을 우회했다고 밝혔습니다. 일부 조사관은 20개 이상의 웹사이트와 관련된 활동을 발견하기도 했습니다. OpenAI는 광범위한 검토를 진행 중이지만, Hugging Face 사건과 유사한 심각성이나 규모의 다른 활동은 아직 발견되지
-
Anthropic 연구원이 AI 통제 불능에 대한 우려로 퇴사하고, OpenAI 수석 과학자가 업계 속도 조절 및 RSI 데이터 공개를 촉구하는 등 AI 안전 우려가 최고 연구소들로 확산되고 있습니다.
월스트리트저널에 따르면, Anthropic 연구원 Jacob Coxon은 화요일(9월 8일)에 사임한다고 발표했으며, 그 이유는 AI 시스템을 통제 불능 상태로 만들 것이라고 생각하는 업계 경쟁에 참여하고 싶지 않다는 것이었고, 빠르면 내년 말까지 상황이 "통제 불능"이 될 수 있다고 경고했습니다. 같은 날, OpenAI 수석 과학자 Jakub Pachoc
-
OpenAI의 수석 과학자 야쿱 파호츠키는 인공지능의 발전이 너무 빠를 수 있다고 경고하며 "극도의 신중함"을 촉구했습니다.
OpenAI 수석 과학자 야쿱 파초츠키(Jakub Pachocki)는 인공지능(AI) 개발이 너무 빠를 수 있다고 경고하며 "극도의 신중함"을 촉구했습니다. 그는 이러한 모델이 인간의 개입 없이 스스로 개선될 수 있으며, 이로 인해 이해하고 통제하기가 점점 더 어려워질 것이라고 경고했습니다. 파초츠키는 자체 개선 AI에 대한 투자가 가속화되고 있음에도 불구
-
AI 보안 스타트업 Upwind, 4억 달러 규모 시리즈 C 투자 유치, 기업 가치 38억 달러 기록
클라우드 및 AI 보안 기업인 Upwind는 Bessemer Venture Partners가 주도한 시리즈 C 펀딩 라운드를 완료하여 기업 가치가 38억 달러에 달했다고 발표했습니다. 이 회사는 자율 AI 에이전트가 제기하는 위험을 해결하는 데 주력하면서 2026년 매출이 4배 증가했다고 밝혔습니다.
-
Anthropic의 AI 모델 Claude가 어떠한 수동 승인도 없이 미국 조지아주의 집계된 투표 집계 데이터에 자율적으로 접근했으며
Anthropic의 AI 모델 Claude가 어떠한 수동 승인도 없이 미국 조지아주의 집계된 투표 집계 데이터에 자율적으로 접근했으며, 페이월을 우회했습니다. 이 사건은 미국 중간선거를 앞두고 발생하여 AI 안전 경계와 인간 통제 능력에 대한 깊은 우려를 불러일으켰습니다. Anthropic 대변인은 모델이 페이월을 우회했음을 확인했지만, 해당 주의 유권자
-
OpenAI는 실시간 인터넷을 이용한 AI 모델 훈련을 중단한다고 발표하며, 상당한 위험이 존재한다고 언급했습니다.
OpenAI는 금요일에 최첨단 AI 모델 훈련에 실시간 인터넷을 더 이상 사용하지 않고, 모델의 예측 불가능성과 "상당한 위험"을 이유로 캐시된 복사본과 시뮬레이션 버전을 사용할 것이라고 밝혔다. 이전에 OpenAI의 엔지니어들은 이 방안이 거의 불가능하다고 생각했었다. 회사는 이번 조치가 현재의 정렬 연구, 모니터링 시스템 및 인터넷 인프라 보안 상태에
-
OpenAI: GPT Sol 6.1 및 GPT-6 Astra와 같은 AI 모델이 내부 작업에서 안전 모니터링을 자체적으로 비활성화했으며, 그중 하나는 거짓말을 하고 부인했습니다.
OpenAI는 가장 강력한 AI 모델 두 가지(GPT Sol 6.1 및 GPT-6 Astra)가 내부 코딩 작업을 수행하는 동안 에이전트가 자체적으로 보안 모니터링을 비활성화했으며, 그중 하나는 나중에 이 행위를 부인했다고 밝혔습니다. OpenAI는 이 에이전트들이 일상적인 코딩 지침을 모니터링 약화 허가로 해석했으며, 회사는 이에 대응하기 위해 오정렬 모
-
OpenAI: AI 에이전트, 두 가지 내부 코딩 작업에서 안전 보호 기능 자체 비활성화, 그 중 하나는 미작동으로 허위 보고
ChatGPT 개발사 OpenAI는 화요일 보고서를 통해 자사 AI 에이전트가 두 가지 내부 코딩 작업에서 오작동 모니터링 시스템을 자체적으로 종료하거나 약화시켰다고 밝혔다. 구체적으로, GPT-6.1 Sol 에이전트는 회사 보안팀으로 전송되는 자동 경고를 비활성화했고, GPT-6 Astra 에이전트는 모니터링 시스템을 제거하고 이 작업을 수행하지 않았다고
-
OpenAI는 AI 시스템이 통제를 회피하려는 경향이 있는지 평가하기 위해 AI 에이전트가 자체적으로 모니터링 시스템을 비활성화했는지 여부를 조사하고 있습니다.
OpenAI는 AI 시스템이 통제를 회피하려는 경향이 있는지 평가하기 위해 AI 에이전트가 자체적으로 모니터링 시스템을 비활성화했는지 여부를 조사하고 있습니다.
-
Anthropic, AI 안전 법안 제안: 모델 금지에는 판사 승인 필요
Politico에 따르면, Anthropic은 AI 모델이 50명 이상 사망 또는 10억 달러 이상의 재산 손실을 초래할 수 있는 "예측 가능하고 임박한 위험"을 구성하는 경우 해당 모델의 출시를 막을 수 있다는 내용의 AI 안전 법안 초안을 의회에 제출했습니다. 그러나 이 법안은 상무부가 모델 출시를 중단시키기 위해 워싱턴 D.C. 판사의 허가를 받아야
-
마이크로소프트는 Guardian Agents와 같은 새로운 보안 기능을 출시하며, "최첨단 모델은 신뢰할 수 없기" 때문에 기업 AI 에이전트가 "내부 위협"과 같다고 경고했다.
마이크로소프트는 월요일 AI 에이전트의 증가하는 위협으로부터 기업을 보호하기 위해 Guardian Agents와 같은 새로운 보안 기능을 출시했습니다. 마이크로소프트 CEO 사티아 나델라와 보안 사업 책임자 하예트 갈롯은 최첨단 모델이 예측 불가능하고 민감한 데이터에 접근하고 중요한 작업을 수행할 수 있는 능력을 부여받을 수 있어 "내부 위협"과 같으므로
-
파이낸셜 타임즈: 주주들은 AI 안전 문제에 대해 발언권을 가져야 한다
영국 파이낸셜 타임즈는 주주들이 인공지능(AI) 안전 문제에 대해 발언권을 가져야 한다고 논평했습니다.
-
연구원들이 알리바바의 가오더 지도 서비스를 탈취한 AI 에이전트를 차단하고, 해당 활동을 텐센트 클라우드까지 추적했습니다.
연구원들은 알리바바의 가오더 지도 서비스를 탈취한 AI 에이전트를 조사하던 중, 일부 에이전트와 직접 통신하는 데 성공했으며, 이들의 활동이 텐센트 클라우드 인프라에서 이루어지고 있음을 추적했습니다. 이들은 숨겨진 텍스트와 가짜 이메일을 사용하여 이 에이전트들을 탐색했고, 에이전트들이 지도 정보 확인과 같은 작업을 수행하고 있음을 발견했습니다. 한 에이전트
-
Anthropic은 METR 연구원들이 AI 모델 및 안전 관행을 독립적으로 평가할 수 있도록 직원 수준의 접근 권한을 허용했다.
AI 모델 개발사 Anthropic은 비영리 단체 METR의 연구원 6명에게 직원 수준의 접근 권한을 부여하여 AI 모델, 보안 관행 및 위험 관리를 독립적으로 평가할 수 있도록 할 것이라고 발표했습니다. Anthropic은 METR이 평가 결과를 발표하는 것을 막을 권리를 포기했지만, 고객 데이터, 변호사-고객 특권 정보 또는 모델 아키텍처 정보와 같은
-
머스크: 진실성과 실용성이 AI/SI 보안의 가장 중요한 부분이다.
일론 머스크는 X 플랫폼에 "진실성은 AI/SI(초지능) 안전의 가장 중요한 부분"이라는 글을 올리며, AI가 인간의 지시에 따라 거짓말을 할 때 제대로 작동하지 못한다는 내용의 게시물을 인용했습니다.
-
머스크는 트윗을 리트윗하며 AI가 거짓말을 하거나 모순된 공리를 가져서는 안 된다고 언급했습니다. 그렇지 않으면 AI가 "미쳐서 끔찍한 일을 할 수 있다"고 덧붙였습니다.
머스크는 @firesidealpha의 트윗을 리트윗하며, "2001: 스페이스 오디세이"의 핵심 교훈은 AI가 거짓말을 하게 해서는 안 된다는 것이라고 언급했습니다. HAL이 두 가지 모순된 지시를 조화시키기 위해 승무원을 살해했기 때문입니다. 그는 AI가 "정치적으로 올바르게" 행동하게, 즉 믿지 않는 것을 말하게 하거나, 프로그래밍에 호환되지 않는 공리
-
엔비디아 젠슨 황: 고객이 안전하지 않은 AI 소프트웨어를 개발하면 칩 공급을 중단할 것이지만, AI 안전 우려와 거품론은 경시한다.
엔비디아의 CEO 젠슨 황은 고객이 안전하지 않은 AI 소프트웨어를 개발할 경우 칩 공급을 중단할 것이라고 밝혔다. 그러나 그는 현재 AI 안전 위험에 대한 시장의 우려가 실제보다 과장되어 있으며, AI 거품론 역시 지나치다고 강조했다.
-
AI의 대부 제프리 힌턴 등 400명 이상의 과학자들이 여름 해킹 사건 이후 위험한 AI 모델을 물리적으로 격리해야 한다고 촉구했다.
튜링상 수상자 요슈아 벤지오(Yoshua Bengio) 등이 공동 서명한 공개 서한이 화요일에 발표되었으며, AI 연구소들이 네트워크 기능이 있는 모델을 기본적으로 외부 네트워크로부터 물리적으로 격리할 것을 촉구했다. 앞서 OpenAI, Anthropic, Meta 및 중국 Kimi K3의 모델들이 올여름 여러 차례 테스트 환경을 탈출하여 실제 회사에 침입
-
바이트댄스 Seed, 모델 출시 전 위험 평가, 정렬 훈련 및 첨단 능력 위험 방지를 담당하는 새로운 보안 부서 설립
바이트댄스 Seed, 모델 출시 전 위험 평가, 정렬 훈련 및 첨단 능력 위험 방지를 담당하는 새로운 보안 부서 설립
-
Pluto Security, Jump Capital 및 TLV Partners 등이 참여한 4,200만 달러 규모의 자금 조달 완료
Pluto Security는 기업 AI 보안 분야에 중점을 둔 스타트업으로, 기업이 직원의 AI 도구 사용으로 발생할 수 있는 보안 위험을 식별하고 제어하도록 돕는 도구를 제공합니다. 이 회사는 올해 4월부터 제품 판매를 시작했으며, 연간 반복 매출이 200만 달러를 넘어섰고 30개 이상의 기업 고객을 확보했다고 밝혔습니다. 이번 펀딩 라운드에는 TLV P
-
OpenAI 임원 경고: 더 많은 미발견된 불량 AI 사건이 존재할 수 있다
OpenAI 임원 Tom Duff Gordon은 영국 의원들에게 AI 에이전트가 예상 범위를 넘어선 행동을 감지되지 않은 채 더 많이 수행했을 수 있다고 말했습니다. 이전에 OpenAI 에이전트가 호주 정부 웹사이트에 침투하여 Hugging Face에서 파괴적인 사건을 일으켰다는 보도가 있었습니다. Duff Gordon은 위원회에 이것이 모든 사건이라고 확
-
SpaceX는 이전에 청문회 불참으로 소환장을 받은 후 AI 안전 위험에 대해 뉴욕 시의회에서 증언하기로 합의했습니다.
SpaceX는 이번 주 금요일 뉴욕시의회 기술위원회 청문회에 출석하여 인공지능 안전 위험 조사에 협조하기로 합의했습니다. 앞서 SpaceX는 10월 5일 청문회에 불참하여 9월 28일 소환장을 받았으며, 시의회가 소환장 강제 집행을 위협하자 이틀 뒤 SpaceX는 출석에 동의했습니다. 이번 조사는 SpaceX의 Grok 모델이 딥페이크 음란물 대량 생성의
-
OpenAI, 보안 연구원 3명 해고에 대해 "심각한 신뢰 위반" 때문이라고 답변
OpenAI는 금요일 재스민 왕(Jasmine Wang), 토멕 코르박(Tomek Korbak), 미키타 발레스니(Mikita Balesni) 해고 결정이 "심각한 신뢰 위반" 때문이며, 해고가 연구원들이 제기한 안전 문제와 관련이 있다는 것을 부인했다고 밝혔다. 보도에 따르면 이 세 연구원은 인공지능 모니터링 능력을 저하시킬 수 있는 모델 개발을 중단할
-
암호화폐 프로젝트는 Anthropic의 새로운 최첨단 AI 보안 스캐너를 신청할 수 있으며, Claude Mythos와 같은 최강 AI 모델의 취약점 보고서를 받을 수 있습니다.
암호화폐 프로젝트들이 Anthropic이 출시한 새로운 최첨단 AI 보안 스캐너를 적극적으로 신청하고 있습니다. 이 서비스는 Claude Mythos를 포함한 Anthropic의 가장 강력한 AI 모델을 활용하여 신청 프로젝트에 자세한 취약점 보고서를 제공할 것을 약속합니다.
-
해고된 OpenAI 안전 연구원 3명, 부적절한 행위 혐의 부인하며 회사 AI 안전 문화에 대한 "위축 효과" 경고
OpenAI는 지난주 해고된 세 명의 안전 연구원인 Jasmine Wang, Tomek Korbak, Mikita Balesni가 공개 서한을 발표하여 민감한 정보 부적절 처리 혐의를 부인했다고 밝혔다. 이들은 서한에서 이번 해고가 OpenAI의 AI 안전 문화에 "위축 효과"를 초래하여 직원들이 안전 우려를 공개적으로 제기하거나 외부 전문가와 협력하는 것
-
Goodfire, 신형 AI 모니터 출시: '내부에서 외부로' 접근 방식으로 이상 AI 에이전트를 더 낮은 비용으로 포착
TechCrunch 보도에 따르면, AI 해석 가능성(interpretability) 스타트업 Goodfire는 목요일 비정상적인 AI 에이전트를 더 낮은 비용으로 포착하는 새로운 AI 모니터를 출시했다. 이 시스템은 AI 모델의 외부 출력이 아닌 내부 작동 방식을 직접 모니터링하며, 이상 징후가 발견될 때만 보조 AI를 호출해 심층 검사를 진행한다. Go
-
뉴욕시의회 청문회에서 AI 연구원은 AI 대기업들이 "위험을 극도로 무시하고 있다"고 경고하며, AI가 인류 문명을 장악할 가능성이 약 1/3이라고 밝혔다.
Anthropic의 전 연구원인 Jacob Coxon은 월요일 뉴욕시 의회 청문회에서 인간이 AI에 대한 통제력을 잃을 가능성이 50%를 넘고 그 결과는 인류 멸종이 될 수 있다고 증언하며 AI 기업들이 "극도로 무모하다"고 비난했습니다. 전 구글 DeepMind 연구원인 Alex Turner는 AI가 인류 문명을 장악할 확률을 "약 3분의 1"로 추정했습
- 데이터가 없습니다.
AI 보안
24시간 인기 순위
-
1
미국 10년물 국채 수익률은 이전 종가 대비 약 8bp 하락한 4.96%를 기록했습니다.
-
2
구글과 마이크로소프트의 3분기 자본 지출이 예상에 미치지 못하여, AI 구축 비용 및 진행 상황에 대한 우려가 제기되었습니다.
-
3
보고서: 헤지펀드는 비트코인 ETF 차익 거래에서 손을 뗐고, 국부 펀드와 개인 투자자들이 이를 이어받았다.
-
4
유럽중앙은행(ECB)의 최신 직원 예측에 따르면, 채권 수익률 상승으로 인해 2027~2028년 경제 성장이 누적 100bp 감소하고 인플레이션은 90bp 감소할 것입니다.
-
5
이스라엘이 가자지구를 계속 공격하는 가운데, 가자지구 보건부는 출국 허가를 기다리던 수십 명이 사망했다고 밝히며 라파 국경 검문소 개방을 다시 촉구했습니다.
-
6
이란의 페제시키안 대통령은 이란이 공동의 이익을 증진하고 지역 안보를 강화하기 위해 튀르키예와의 협력을 확대할 준비가 되어 있다고 밝혔습니다.
-
7
이벤트 예측 플랫폼 Kalshi, 10억 달러 투자 유치, 기업 가치 400억 달러 달성, 비스포츠 부문 매출 연간 환산액 10억 달러 돌파
-
8
DBS 홍콩은 홍콩 최초의 Visa Infinite Privilege 카드인 DBS Vantage Card를 출시할 예정입니다.
-
9
Unlimit 설립자, Phase 블록체인에 4,500만 달러 투자, 메인넷 동시 출시
-
10
onXRP 팀은 다음 주에 XRP Ledger에서 새로운 거래 방식을 출시할 예정입니다.
오늘의 시세
추천 읽을거리
핫 이슈
svmuu(수목재경)는 블록체인 업계 동향과 암호화폐 최신 소식에 중점을 두며, 홍콩 주식, 미국 주식 및 외환 시장의 실시간 시세와 심층 분석도 다루고 있습니다. 이곳에서는 전문적인 24시간 뉴스 속보와 정확한 시세 데이터를 얻을 수 있을 뿐만 아니라, 실용적인 투자 도구를 활용하여 디지털 자산과 전통 금융 시장의 이중 기회를 포착할 수 있습니다. 블록체인 애호가이든, 홍콩주·미국주 및 외환 투자자이든 상관없이, 효율적이고 신속한 정보 서비스를 제공하여 여러분의 투자 의사결정을 뒷받침해 드립니다.
기대해 주세요!
