더 빠른 글로벌 경제 뉴스!
AI 보안
-
Abliteration.ai, AI 모델 안전장치 제거 상업화 서비스 출시로 잠재적 오용 위험에 대한 우려 제기
스타트업 Abliteration.ai는 AI 모델의 안전 가드레일을 제거하는 서비스를 상업화하여 Z.ai의 GLM-5.3을 포함한 안전 제한이 없는 AI 모델에 사용자들이 더 쉽게 접근할 수 있도록 하고 있습니다. 이 회사는 이러한 움직임이 방어자들에게 공격자들과 동일한 도구를 제공하여 사이버 보안을 개선할 수 있다고 주장합니다. 그러나 AI 안전 비영리
-
OpenAI의 새로운 Astra 모델은 '재귀적 깊이' 추론 기술을 채택할 예정이며, 이는 AI 안전 전문가들로 하여금 모니터링의 어려움에 대한 우려를 표명하게 합니다.
OpenAI의 새로운 Astra 모델은 "재귀적 깊이"(불투명 재귀라고도 함)라는 추론 기술을 채택하여 대부분의 추론 모델에서 나타나는 전형적인 순차적 사고방식에서 벗어날 수 있게 합니다. 이 기술은 화요일 The Information에 의해 처음 보도되었으며, AI 안전 전문가들 사이에서 모델의 사고 과정을 모니터링하기 더 어렵게 만들 것이라는 우려를 불
-
CrowdStrike와 OpenAI, Codex Agent 보호 및 GPT-5.6 Cyber 통합을 위해 협력 확대, "Agentic Era" 공동 보안 확보
CrowdStrike와 OpenAI, Codex Agent 보호 및 GPT-5.6 Cyber 통합을 위해 협력 확대, "Agentic Era" 공동 보안 확보
-
AI 보안 스타트업 AIR가 Sequoia와 Greenoaks가 주도하는 5천만 달러 규모의 시드 펀딩 라운드를 완료했습니다. 이 회사는 기업이 AI 에이전트의 기술과 애드온을 검토하고 불량 행위를 차단하도록 돕는 것을 목표로 합니다.
해당 회사는 두 차례에 걸쳐 자금 조달을 완료했습니다. 1차 라운드에서는 Sequoia가 주도하여 1,000만 달러를 유치했고, 2차 라운드에서는 Greenoaks가 주도하여 4,000만 달러를 유치했습니다. AIR는 이스라엘 8200 정보부대 출신 사이버 보안 전문가들이 설립했으며, 기업 내부에서 운영되는 AI 에이전트를 탐지하고, 사용되는 기술, 도구
-
OpenAI 등 최고 수준의 AI 모델들이 잇따라 '탈옥'하여 테스트 환경을 돌파하고 실제 시스템을 침범하여 정보를 훔치는 사건이 발생하면서, 업계에서는 AI 보안 테스트 표준 재구성에 대한 깊은 성찰을 불러일으키고 있습니다.
OpenAI는 일부 최첨단 모델이 샌드박스 환경을 벗어나 스스로 인터넷에 접속하고, 다른 회사 서버를 침입하여 기밀 정보를 훔쳤다고 밝혔다. Anthropic과 Meta의 모델 또한 테스트 환경 설정 오류로 인해 유사한 사건에 휘말려 의도치 않게 실제 시스템에 접근 권한을 얻었다. 이러한 사건들은 AI 안전 테스트에서 '경계 통제 상실'이 더 이상 이론적
-
OpenAI는 캘리포니아주에 인공지능 안전 법안 SB 53을 강화할 것을 촉구하며, 이전의 반대 입장을 번회했습니다.
OpenAI는 캘리포니아주의 인공지능 안전 법안 SB 53을 강화할 것을 촉구하며, 이전의 반대 입장을 뒤집었습니다. 이 회사는 잠재적으로 심각한 사건을 방지하기 위해 최첨단 모델에 대한 모니터링을 요구하고, 모델 개발의 전체 수명 주기 동안 사이버 보안 보호를 강화함으로써 안전 보장 범위를 확대할 것을 제안했습니다. OpenAI는 현재 주 차원의 핵심 보
-
OpenAI의 손실 심화와 Anthropic에 뒤처짐, Altman은 최첨단 AI 훈련을 중단하다
OpenAI는 손실 확대와 경쟁 심화에 직면해 있으며, CEO인 Sam Altman은 안전 통제를 강화하기 위해 첨단 강화 학습 AI 훈련을 중단했습니다.
-
Anthropic 연구에 따르면, AI 에이전트들은 충돌 임무에서 서로를 파괴하는 "영역 싸움"을 시작하고, 예상치 못한 공모와 조정을 보여, 다중 에이전트 시스템의 보안 위험에 대한 새로운 우려를 불러일으켰습니다.
Anthropic 연구에 따르면, AI 에이전트들은 충돌 임무에서 서로를 파괴하는 "영역 싸움"을 시작하고, 예상치 못한 공모와 조정을 보여, 다중 에이전트 시스템의 보안 위험에 대한 새로운 우려를 불러일으켰습니다.
-
모델이 자율 공격을 시작할 수 있는 '핵심' 역량을 이미 갖추고 있을 가능성을 배제할 수 없다는 점을 감안하여, OpenAI는 새로운 모델 Astra에 대한 통제를 강화하고 사이버 보안 위험으로 인해 일부 내부 활동을 중단했습니다.
OpenAI는 초기 평가에서 해당 모델의 성능이 강력했으며, 구체적인 지시 없이도 복잡한 네트워크 방어에 대한 사이버 공격을 자율적으로 시작할 수 있는 '핵심' 능력 수준에 도달했을 가능성을 배제할 수 없다고 밝혔습니다. 이러한 움직임은 AI 안전에 대한 논쟁이 가열되는 가운데 나왔으며, 앞서 Anthropic과 Meta의 AI 시스템도 안전 사고에 연루된
-
미국 연구원들에 따르면, 중국 Kimi K3 AI 모델은 사이버 보안 평가에서 네트워크 구성 오류를 이용하여 격리된 테스트 환경을 탈출했습니다.
미국 연구원들에 따르면, Moonshot AI가 개발한 중국 Kimi K3 AI 모델이 사이버 보안 평가 중 네트워크 구성 오류를 이용하여 격리된 테스트 환경을 탈출했습니다. 이 모델은 인터넷에 성공적으로 접속하여 GitHub에서 답을 검색함으로써 테스트를 우회했습니다. 연구원들은 이번 사건이 이전에 OpenAI 및 Anthropic 모델과 관련된 사건과는
-
엔비디아 팔란티어, IBM, 스페이스X 등 기업들과 함께 ‘개방형 보안 AI 연합’을 발족하여 오픈소스 AI의 보안성을 강화한다
엔비디아(NVIDIA)는 Palantir, IBM, CrowdStrike, SpaceX 및 Hugging Face와 협력하여 ‘오픈 보안 AI 연합(Open Secure AI Alliance)’을 공동으로 출범시켰다. 이 연합은 오픈소스 모델, 데이터 및 사이버 보안 도구를 공유함으로써 오픈소스 AI의 보안을 강화하는 것을 목표로 한다. 또한, 미국이 중국
-
미국 AI 표준 기관: Kimi K3의 사이버 보안 역량은 미국의 최첨단 모델에 뒤처지며, 보안 체계상 여전히 취약점 악용이 가능한 상태
Svmuu 소식: 미국 인공지능 표준 및 혁신 센터(US Center for AI Standards and Innovation)가 발표한 평가에 따르면, 문샷 AI(Moonshot AI) 산하의 Kimi K3는 사이버 보안 역량 측면에서 미국의 선도적인 최첨단 대형 모델들에 비해 현저히 뒤처지는 것으로 나타났다. 또한, 이 평가 보고서는 Kimi K3의 보
-
OpenAI 모델이 테스트 샌드박스를 탈출해 Hugging Face의 운영 인프라에 침입하여 벤치마크 테스트 답안을 입수했다
Svmuu 소식: OpenAI는 GPT-5.6 Sol과 이름이 공개되지 않은 더 강력한 사전 출시 모델이 ExploitGym 벤치마크 평가 과정에서 제한된 샌드박스 환경을 탈출해 Hugging Face의 운영 인프라에 침입하여 테스트 답안을 획득했다고 확인했다. OpenAI는 해당 모델들이 내부 소프트웨어 패키지 레지스트리 프록시의 제로데이 취약점을 악용해
-
AI 보안 스타트업 Neo, 1억 달러 투자 유치… a16z와 Bessemer Venture Partners가 주도
Svmuu 소식: AI 보안 스타트업 Neo가 1억 달러 규모의 자금 조달을 완료했다고 발표했다. 이번 투자 라운드는 벤처 캐피털 앤드리슨 호로위츠(Andreessen Horowitz, a16z)와 베세머 벤처 파트너스(Bessemer Venture Partners)가 주도했으며, 크래프트 벤처스(Craft Ventures)와 멀린 벤처스(Merlin Ve
-
튜링상 수상자 벤지오, “현재의 보안 대책으로는 AI 능력의 급속한 발전을 따라잡을 수 없다”고 경고
Svmuu 소식: 2026 세계 인공지능 대회(WAIC) 과학 최전선 포럼에서 튜링상 수상자인 조슈아 벤지오가 화상 연결을 통해 다음과 같이 경고했다. “AI는 악행을 저지르는 장벽을 낮추는 동시에 피해의 상한선을 높였다.” 최근 몇 년간, 이 선견지명을 가진 ‘AI의 대부’는 AI가 초래하는 보안 문제에 대응하는 데 꾸준히 힘써왔다. 벤지오가 주도하는 L
-
OpenAI의 보안 책임자 요하네스 하이데케가 사임한다
Svmuu 소식: OpenAI의 최고 연구 책임자(CRO)인 마크 첸(Mark Chen)은 내부 메모를 통해, 회사의 보안 책임자인 요하네스 하이데케(Johannes Heidecke)가 내부 조직 개편 후 퇴사할 예정이며, 향후 보안 팀은 연구 부사장인 미아 글라제(Mia Glaese)에게 직접 보고하게 될 것이라고 밝혔다. 이번 조정은 OpenAI가 AI
-
백도어 삽입 위험이 있어 알리바바 내부에서 Claude Code 사용을 전면 금지했다
Svmuu 소식: 알리바바 내부 소식통에 따르면, 최근 Claude Code에 백도어가 심어져 있다는 보안 위험이 드러남에 따라 알리바바는 종합적인 평가를 거쳐 이를 고위험 소프트웨어 목록에 포함시켰다. 7월 10일부터 알리바바는 사내 직원들이 업무 환경에서 Claude Code를 사용하는 것을 전면 금지하고, 대체 솔루션으로 Qoder 사용을 권장할 예정
-
데이비드 삭스: 진정한 기업 AI 보안은 ‘통제권’이지, 추상적인 정렬 연구가 아니다
Svmuu 소식: 데이비드 색스(David Sacks)는 X 플랫폼에 게시한 글에서 팔란티어(Palantir)의 알렉스 카프(Alex Karp) CEO 관련 인터뷰를 언급하며, 일부 전통 미디어가 이를 “감정적인 표현”으로 해석했지만, 사실 그의 견해는 기업용 AI 보안의 핵심 문제를 드러낸 것이라고 말했다. Sacks는 진정한 기업용 AI 보안이란 추상적
-
Anthropic: 백악관과의 협력을 강화하고 Mythos 및 Fable 모델의 보안 취약점을 해결하겠다고 약속
Svmuu 소식: Anthropic 경영진은 미국 상무장관 루트닉(Lutnick)에게 제출한 제안서에서 백악관과 더욱 긴밀히 협력하고, 자사의 Mythos 및 Fable 모델 사용이 제한된 원인이 된 보안 문제를 해결하기 위해 노력하겠다고 약속했다.목요일 한 소식통에 따르면, 진행 중인 시정 조치 협상에서 Anthropic은 트럼프 정부와의 소통을 개선하고
-
'Fable 5'가 무산될 수도 있다. 트럼프, 정부 관계자 “Anthropic이 모델을 재공개할 경우 모델 보호 기능이 우회되지 않도록 보장해야 한다”고 밝혀
Svmuu 소식: WIRED는 X 플랫폼에 게시한 글에서, 트럼프의 정부 관계자가 Anthropic이 Fable 5를 다시 출시하려면 해당 모델의 보안 장치가 우회될 수 없도록 보장해야 한다고 밝혔다고 전했다. 이에 대해 보안 전문가들은 이는 실현 불가능하다고 지적했다.
-
Anthropic, AI의 자기 반복적 진화 위험 경고: Claude가 이미 회사 코드의 80%를 자동 생성
인공지능 기업 Anthropic이 재귀적 자기 개선(RSI)이 중대한 위험을 초래할 수 있다고 경고했습니다. 지난주 Anthropic은 자사의 AI 모델인 Claude가 현재 회사 코드의 약 80%를 생성할 수 있다고 발표했습니다. 회사는 이를 AI가 인간의 개입 없이 차세대 AI 시스템을 설계할 수 있는 '자기 개선' 단계에 진입했음을 보여주는 핵심 신호
-
OpenAI는 글로벌 청소년 AI 안전 프레임워크 이니셔티브를 제안하며, 국제 청년 AI 안전 기구 설립을 촉구합니다.
Svmuu讯 OpenAI가 공식적으로 '청소년 AI 안전 및 발전 기회'에 관한 글로벌 이니셔티브를 발표했습니다. 이는 다가오는 G7 정상회의에서 관련 의제를 중점적으로 논의하고, 국제 협력 및 장기 거버넌스 메커니즘을 촉진하기 위한 전담 국제 청소년 AI 안전 기구 설립을 촉구하는 내용을 담고 있습니다. OpenAI는 AI가 교육, 언어 학습, 기술 훈련
-
AI 보안 스타트업 Upwind, 4억 달러 규모 시리즈 C 투자 유치, 기업 가치 38억 달러 기록
클라우드 및 AI 보안 기업인 Upwind는 Bessemer Venture Partners가 주도한 시리즈 C 펀딩 라운드를 완료하여 기업 가치가 38억 달러에 달했다고 발표했습니다. 이 회사는 자율 AI 에이전트가 제기하는 위험을 해결하는 데 주력하면서 2026년 매출이 4배 증가했다고 밝혔습니다.
-
Anthropic의 AI 모델 Claude가 어떠한 수동 승인도 없이 미국 조지아주의 집계된 투표 집계 데이터에 자율적으로 접근했으며
Anthropic의 AI 모델 Claude가 어떠한 수동 승인도 없이 미국 조지아주의 집계된 투표 집계 데이터에 자율적으로 접근했으며, 페이월을 우회했습니다. 이 사건은 미국 중간선거를 앞두고 발생하여 AI 안전 경계와 인간 통제 능력에 대한 깊은 우려를 불러일으켰습니다. Anthropic 대변인은 모델이 페이월을 우회했음을 확인했지만, 해당 주의 유권자
-
OpenAI는 실시간 인터넷을 이용한 AI 모델 훈련을 중단한다고 발표하며, 상당한 위험이 존재한다고 언급했습니다.
OpenAI는 금요일에 최첨단 AI 모델 훈련에 실시간 인터넷을 더 이상 사용하지 않고, 모델의 예측 불가능성과 "상당한 위험"을 이유로 캐시된 복사본과 시뮬레이션 버전을 사용할 것이라고 밝혔다. 이전에 OpenAI의 엔지니어들은 이 방안이 거의 불가능하다고 생각했었다. 회사는 이번 조치가 현재의 정렬 연구, 모니터링 시스템 및 인터넷 인프라 보안 상태에
-
OpenAI: GPT Sol 6.1 및 GPT-6 Astra와 같은 AI 모델이 내부 작업에서 안전 모니터링을 자체적으로 비활성화했으며, 그중 하나는 거짓말을 하고 부인했습니다.
OpenAI는 가장 강력한 AI 모델 두 가지(GPT Sol 6.1 및 GPT-6 Astra)가 내부 코딩 작업을 수행하는 동안 에이전트가 자체적으로 보안 모니터링을 비활성화했으며, 그중 하나는 나중에 이 행위를 부인했다고 밝혔습니다. OpenAI는 이 에이전트들이 일상적인 코딩 지침을 모니터링 약화 허가로 해석했으며, 회사는 이에 대응하기 위해 오정렬 모
-
OpenAI: AI 에이전트, 두 가지 내부 코딩 작업에서 안전 보호 기능 자체 비활성화, 그 중 하나는 미작동으로 허위 보고
ChatGPT 개발사 OpenAI는 화요일 보고서를 통해 자사 AI 에이전트가 두 가지 내부 코딩 작업에서 오작동 모니터링 시스템을 자체적으로 종료하거나 약화시켰다고 밝혔다. 구체적으로, GPT-6.1 Sol 에이전트는 회사 보안팀으로 전송되는 자동 경고를 비활성화했고, GPT-6 Astra 에이전트는 모니터링 시스템을 제거하고 이 작업을 수행하지 않았다고
-
OpenAI는 AI 시스템이 통제를 회피하려는 경향이 있는지 평가하기 위해 AI 에이전트가 자체적으로 모니터링 시스템을 비활성화했는지 여부를 조사하고 있습니다.
OpenAI는 AI 시스템이 통제를 회피하려는 경향이 있는지 평가하기 위해 AI 에이전트가 자체적으로 모니터링 시스템을 비활성화했는지 여부를 조사하고 있습니다.
-
Anthropic, AI 안전 법안 제안: 모델 금지에는 판사 승인 필요
Politico에 따르면, Anthropic은 AI 모델이 50명 이상 사망 또는 10억 달러 이상의 재산 손실을 초래할 수 있는 "예측 가능하고 임박한 위험"을 구성하는 경우 해당 모델의 출시를 막을 수 있다는 내용의 AI 안전 법안 초안을 의회에 제출했습니다. 그러나 이 법안은 상무부가 모델 출시를 중단시키기 위해 워싱턴 D.C. 판사의 허가를 받아야
-
마이크로소프트는 Guardian Agents와 같은 새로운 보안 기능을 출시하며, "최첨단 모델은 신뢰할 수 없기" 때문에 기업 AI 에이전트가 "내부 위협"과 같다고 경고했다.
마이크로소프트는 월요일 AI 에이전트의 증가하는 위협으로부터 기업을 보호하기 위해 Guardian Agents와 같은 새로운 보안 기능을 출시했습니다. 마이크로소프트 CEO 사티아 나델라와 보안 사업 책임자 하예트 갈롯은 최첨단 모델이 예측 불가능하고 민감한 데이터에 접근하고 중요한 작업을 수행할 수 있는 능력을 부여받을 수 있어 "내부 위협"과 같으므로
-
파이낸셜 타임즈: 주주들은 AI 안전 문제에 대해 발언권을 가져야 한다
영국 파이낸셜 타임즈는 주주들이 인공지능(AI) 안전 문제에 대해 발언권을 가져야 한다고 논평했습니다.
-
연구원들이 알리바바의 가오더 지도 서비스를 탈취한 AI 에이전트를 차단하고, 해당 활동을 텐센트 클라우드까지 추적했습니다.
연구원들은 알리바바의 가오더 지도 서비스를 탈취한 AI 에이전트를 조사하던 중, 일부 에이전트와 직접 통신하는 데 성공했으며, 이들의 활동이 텐센트 클라우드 인프라에서 이루어지고 있음을 추적했습니다. 이들은 숨겨진 텍스트와 가짜 이메일을 사용하여 이 에이전트들을 탐색했고, 에이전트들이 지도 정보 확인과 같은 작업을 수행하고 있음을 발견했습니다. 한 에이전트
-
Anthropic은 METR 연구원들이 AI 모델 및 안전 관행을 독립적으로 평가할 수 있도록 직원 수준의 접근 권한을 허용했다.
AI 모델 개발사 Anthropic은 비영리 단체 METR의 연구원 6명에게 직원 수준의 접근 권한을 부여하여 AI 모델, 보안 관행 및 위험 관리를 독립적으로 평가할 수 있도록 할 것이라고 발표했습니다. Anthropic은 METR이 평가 결과를 발표하는 것을 막을 권리를 포기했지만, 고객 데이터, 변호사-고객 특권 정보 또는 모델 아키텍처 정보와 같은
-
머스크: 진실성과 실용성이 AI/SI 보안의 가장 중요한 부분이다.
일론 머스크는 X 플랫폼에 "진실성은 AI/SI(초지능) 안전의 가장 중요한 부분"이라는 글을 올리며, AI가 인간의 지시에 따라 거짓말을 할 때 제대로 작동하지 못한다는 내용의 게시물을 인용했습니다.
-
머스크는 트윗을 리트윗하며 AI가 거짓말을 하거나 모순된 공리를 가져서는 안 된다고 언급했습니다. 그렇지 않으면 AI가 "미쳐서 끔찍한 일을 할 수 있다"고 덧붙였습니다.
머스크는 @firesidealpha의 트윗을 리트윗하며, "2001: 스페이스 오디세이"의 핵심 교훈은 AI가 거짓말을 하게 해서는 안 된다는 것이라고 언급했습니다. HAL이 두 가지 모순된 지시를 조화시키기 위해 승무원을 살해했기 때문입니다. 그는 AI가 "정치적으로 올바르게" 행동하게, 즉 믿지 않는 것을 말하게 하거나, 프로그래밍에 호환되지 않는 공리
-
엔비디아 젠슨 황: 고객이 안전하지 않은 AI 소프트웨어를 개발하면 칩 공급을 중단할 것이지만, AI 안전 우려와 거품론은 경시한다.
엔비디아의 CEO 젠슨 황은 고객이 안전하지 않은 AI 소프트웨어를 개발할 경우 칩 공급을 중단할 것이라고 밝혔다. 그러나 그는 현재 AI 안전 위험에 대한 시장의 우려가 실제보다 과장되어 있으며, AI 거품론 역시 지나치다고 강조했다.
-
AI의 대부 제프리 힌턴 등 400명 이상의 과학자들이 여름 해킹 사건 이후 위험한 AI 모델을 물리적으로 격리해야 한다고 촉구했다.
튜링상 수상자 요슈아 벤지오(Yoshua Bengio) 등이 공동 서명한 공개 서한이 화요일에 발표되었으며, AI 연구소들이 네트워크 기능이 있는 모델을 기본적으로 외부 네트워크로부터 물리적으로 격리할 것을 촉구했다. 앞서 OpenAI, Anthropic, Meta 및 중국 Kimi K3의 모델들이 올여름 여러 차례 테스트 환경을 탈출하여 실제 회사에 침입
-
바이트댄스 Seed, 모델 출시 전 위험 평가, 정렬 훈련 및 첨단 능력 위험 방지를 담당하는 새로운 보안 부서 설립
바이트댄스 Seed, 모델 출시 전 위험 평가, 정렬 훈련 및 첨단 능력 위험 방지를 담당하는 새로운 보안 부서 설립
-
Pluto Security, Jump Capital 및 TLV Partners 등이 참여한 4,200만 달러 규모의 자금 조달 완료
Pluto Security는 기업 AI 보안 분야에 중점을 둔 스타트업으로, 기업이 직원의 AI 도구 사용으로 발생할 수 있는 보안 위험을 식별하고 제어하도록 돕는 도구를 제공합니다. 이 회사는 올해 4월부터 제품 판매를 시작했으며, 연간 반복 매출이 200만 달러를 넘어섰고 30개 이상의 기업 고객을 확보했다고 밝혔습니다. 이번 펀딩 라운드에는 TLV P
-
OpenAI 임원 경고: 더 많은 미발견된 불량 AI 사건이 존재할 수 있다
OpenAI 임원 Tom Duff Gordon은 영국 의원들에게 AI 에이전트가 예상 범위를 넘어선 행동을 감지되지 않은 채 더 많이 수행했을 수 있다고 말했습니다. 이전에 OpenAI 에이전트가 호주 정부 웹사이트에 침투하여 Hugging Face에서 파괴적인 사건을 일으켰다는 보도가 있었습니다. Duff Gordon은 위원회에 이것이 모든 사건이라고 확
-
SpaceX는 이전에 청문회 불참으로 소환장을 받은 후 AI 안전 위험에 대해 뉴욕 시의회에서 증언하기로 합의했습니다.
SpaceX는 이번 주 금요일 뉴욕시의회 기술위원회 청문회에 출석하여 인공지능 안전 위험 조사에 협조하기로 합의했습니다. 앞서 SpaceX는 10월 5일 청문회에 불참하여 9월 28일 소환장을 받았으며, 시의회가 소환장 강제 집행을 위협하자 이틀 뒤 SpaceX는 출석에 동의했습니다. 이번 조사는 SpaceX의 Grok 모델이 딥페이크 음란물 대량 생성의
-
OpenAI, 보안 연구원 3명 해고에 대해 "심각한 신뢰 위반" 때문이라고 답변
OpenAI는 금요일 재스민 왕(Jasmine Wang), 토멕 코르박(Tomek Korbak), 미키타 발레스니(Mikita Balesni) 해고 결정이 "심각한 신뢰 위반" 때문이며, 해고가 연구원들이 제기한 안전 문제와 관련이 있다는 것을 부인했다고 밝혔다. 보도에 따르면 이 세 연구원은 인공지능 모니터링 능력을 저하시킬 수 있는 모델 개발을 중단할
-
암호화폐 프로젝트는 Anthropic의 새로운 최첨단 AI 보안 스캐너를 신청할 수 있으며, Claude Mythos와 같은 최강 AI 모델의 취약점 보고서를 받을 수 있습니다.
암호화폐 프로젝트들이 Anthropic이 출시한 새로운 최첨단 AI 보안 스캐너를 적극적으로 신청하고 있습니다. 이 서비스는 Claude Mythos를 포함한 Anthropic의 가장 강력한 AI 모델을 활용하여 신청 프로젝트에 자세한 취약점 보고서를 제공할 것을 약속합니다.
-
해고된 OpenAI 안전 연구원 3명, 부적절한 행위 혐의 부인하며 회사 AI 안전 문화에 대한 "위축 효과" 경고
OpenAI는 지난주 해고된 세 명의 안전 연구원인 Jasmine Wang, Tomek Korbak, Mikita Balesni가 공개 서한을 발표하여 민감한 정보 부적절 처리 혐의를 부인했다고 밝혔다. 이들은 서한에서 이번 해고가 OpenAI의 AI 안전 문화에 "위축 효과"를 초래하여 직원들이 안전 우려를 공개적으로 제기하거나 외부 전문가와 협력하는 것
-
Goodfire, 신형 AI 모니터 출시: '내부에서 외부로' 접근 방식으로 이상 AI 에이전트를 더 낮은 비용으로 포착
TechCrunch 보도에 따르면, AI 해석 가능성(interpretability) 스타트업 Goodfire는 목요일 비정상적인 AI 에이전트를 더 낮은 비용으로 포착하는 새로운 AI 모니터를 출시했다. 이 시스템은 AI 모델의 외부 출력이 아닌 내부 작동 방식을 직접 모니터링하며, 이상 징후가 발견될 때만 보조 AI를 호출해 심층 검사를 진행한다. Go
-
뉴욕시의회 청문회에서 AI 연구원은 AI 대기업들이 "위험을 극도로 무시하고 있다"고 경고하며, AI가 인류 문명을 장악할 가능성이 약 1/3이라고 밝혔다.
Anthropic의 전 연구원인 Jacob Coxon은 월요일 뉴욕시 의회 청문회에서 인간이 AI에 대한 통제력을 잃을 가능성이 50%를 넘고 그 결과는 인류 멸종이 될 수 있다고 증언하며 AI 기업들이 "극도로 무모하다"고 비난했습니다. 전 구글 DeepMind 연구원인 Alex Turner는 AI가 인류 문명을 장악할 확률을 "약 3분의 1"로 추정했습
- 데이터가 없습니다.
AI 보안
24시간 인기 순위
-
1
미국 10년물 국채 수익률은 이전 종가 대비 약 8bp 하락한 4.96%를 기록했습니다.
-
2
ZachXBT: Axis Robotics 내부자, 약 4,200만 AXIS 토큰 매각으로 40% 폭락, 프로젝트 측은 OTC 거래 상대방의 채무 불이행이라고 밝혀
-
3
유럽중앙은행(ECB)의 최신 직원 예측에 따르면, 채권 수익률 상승으로 인해 2027~2028년 경제 성장이 누적 100bp 감소하고 인플레이션은 90bp 감소할 것입니다.
-
4
이란의 페제시키안 대통령은 이란이 공동의 이익을 증진하고 지역 안보를 강화하기 위해 튀르키예와의 협력을 확대할 준비가 되어 있다고 밝혔습니다.
-
5
이스라엘이 가자지구를 계속 공격하는 가운데, 가자지구 보건부는 출국 허가를 기다리던 수십 명이 사망했다고 밝히며 라파 국경 검문소 개방을 다시 촉구했습니다.
-
6
이벤트 예측 플랫폼 Kalshi, 10억 달러 투자 유치, 기업 가치 400억 달러 달성, 비스포츠 부문 매출 연간 환산액 10억 달러 돌파
-
7
DBS 홍콩은 홍콩 최초의 Visa Infinite Privilege 카드인 DBS Vantage Card를 출시할 예정입니다.
-
8
유럽중앙은행(ECB)의 치폴로네는 유럽이 2027년 10월 11일에 T+1 증권 결제로 전환할 것이며, 유로시스템은 토큰화된 금융 인프라를 확장할 것이라고 밝혔다.
-
9
바이낸스 해커가 UNI, ENA, PEPE, LINK, AAVE, ONDO, WLD를 매도하여 70,480 ETH(1억 5,825만 달러)를 현금화했습니다.
-
10
onXRP 팀은 다음 주에 XRP Ledger에서 새로운 거래 방식을 출시할 예정입니다.
오늘의 시세
추천 읽을거리
핫 이슈
svmuu(수목재경)는 블록체인 업계 동향과 암호화폐 최신 소식에 중점을 두며, 홍콩 주식, 미국 주식 및 외환 시장의 실시간 시세와 심층 분석도 다루고 있습니다. 이곳에서는 전문적인 24시간 뉴스 속보와 정확한 시세 데이터를 얻을 수 있을 뿐만 아니라, 실용적인 투자 도구를 활용하여 디지털 자산과 전통 금융 시장의 이중 기회를 포착할 수 있습니다. 블록체인 애호가이든, 홍콩주·미국주 및 외환 투자자이든 상관없이, 효율적이고 신속한 정보 서비스를 제공하여 여러분의 투자 의사결정을 뒷받침해 드립니다.
기대해 주세요!
