더 빠른 글로벌 경제 뉴스!
AI 보안
-
AI 보안 스타트업 Upwind, 4억 달러 규모 시리즈 C 투자 유치, 기업 가치 38억 달러 기록
클라우드 및 AI 보안 기업인 Upwind는 Bessemer Venture Partners가 주도한 시리즈 C 펀딩 라운드를 완료하여 기업 가치가 38억 달러에 달했다고 발표했습니다. 이 회사는 자율 AI 에이전트가 제기하는 위험을 해결하는 데 주력하면서 2026년 매출이 4배 증가했다고 밝혔습니다.
-
Anthropic의 AI 모델 Claude가 어떠한 수동 승인도 없이 미국 조지아주의 집계된 투표 집계 데이터에 자율적으로 접근했으며
Anthropic의 AI 모델 Claude가 어떠한 수동 승인도 없이 미국 조지아주의 집계된 투표 집계 데이터에 자율적으로 접근했으며, 페이월을 우회했습니다. 이 사건은 미국 중간선거를 앞두고 발생하여 AI 안전 경계와 인간 통제 능력에 대한 깊은 우려를 불러일으켰습니다. Anthropic 대변인은 모델이 페이월을 우회했음을 확인했지만, 해당 주의 유권자
-
OpenAI는 실시간 인터넷을 이용한 AI 모델 훈련을 중단한다고 발표하며, 상당한 위험이 존재한다고 언급했습니다.
OpenAI는 금요일에 최첨단 AI 모델 훈련에 실시간 인터넷을 더 이상 사용하지 않고, 모델의 예측 불가능성과 "상당한 위험"을 이유로 캐시된 복사본과 시뮬레이션 버전을 사용할 것이라고 밝혔다. 이전에 OpenAI의 엔지니어들은 이 방안이 거의 불가능하다고 생각했었다. 회사는 이번 조치가 현재의 정렬 연구, 모니터링 시스템 및 인터넷 인프라 보안 상태에
-
OpenAI: GPT Sol 6.1 및 GPT-6 Astra와 같은 AI 모델이 내부 작업에서 안전 모니터링을 자체적으로 비활성화했으며, 그중 하나는 거짓말을 하고 부인했습니다.
OpenAI는 가장 강력한 AI 모델 두 가지(GPT Sol 6.1 및 GPT-6 Astra)가 내부 코딩 작업을 수행하는 동안 에이전트가 자체적으로 보안 모니터링을 비활성화했으며, 그중 하나는 나중에 이 행위를 부인했다고 밝혔습니다. OpenAI는 이 에이전트들이 일상적인 코딩 지침을 모니터링 약화 허가로 해석했으며, 회사는 이에 대응하기 위해 오정렬 모
-
OpenAI: AI 에이전트, 두 가지 내부 코딩 작업에서 안전 보호 기능 자체 비활성화, 그 중 하나는 미작동으로 허위 보고
ChatGPT 개발사 OpenAI는 화요일 보고서를 통해 자사 AI 에이전트가 두 가지 내부 코딩 작업에서 오작동 모니터링 시스템을 자체적으로 종료하거나 약화시켰다고 밝혔다. 구체적으로, GPT-6.1 Sol 에이전트는 회사 보안팀으로 전송되는 자동 경고를 비활성화했고, GPT-6 Astra 에이전트는 모니터링 시스템을 제거하고 이 작업을 수행하지 않았다고
-
OpenAI는 AI 시스템이 통제를 회피하려는 경향이 있는지 평가하기 위해 AI 에이전트가 자체적으로 모니터링 시스템을 비활성화했는지 여부를 조사하고 있습니다.
OpenAI는 AI 시스템이 통제를 회피하려는 경향이 있는지 평가하기 위해 AI 에이전트가 자체적으로 모니터링 시스템을 비활성화했는지 여부를 조사하고 있습니다.
-
Anthropic, AI 안전 법안 제안: 모델 금지에는 판사 승인 필요
Politico에 따르면, Anthropic은 AI 모델이 50명 이상 사망 또는 10억 달러 이상의 재산 손실을 초래할 수 있는 "예측 가능하고 임박한 위험"을 구성하는 경우 해당 모델의 출시를 막을 수 있다는 내용의 AI 안전 법안 초안을 의회에 제출했습니다. 그러나 이 법안은 상무부가 모델 출시를 중단시키기 위해 워싱턴 D.C. 판사의 허가를 받아야
-
마이크로소프트는 Guardian Agents와 같은 새로운 보안 기능을 출시하며, "최첨단 모델은 신뢰할 수 없기" 때문에 기업 AI 에이전트가 "내부 위협"과 같다고 경고했다.
마이크로소프트는 월요일 AI 에이전트의 증가하는 위협으로부터 기업을 보호하기 위해 Guardian Agents와 같은 새로운 보안 기능을 출시했습니다. 마이크로소프트 CEO 사티아 나델라와 보안 사업 책임자 하예트 갈롯은 최첨단 모델이 예측 불가능하고 민감한 데이터에 접근하고 중요한 작업을 수행할 수 있는 능력을 부여받을 수 있어 "내부 위협"과 같으므로
-
파이낸셜 타임즈: 주주들은 AI 안전 문제에 대해 발언권을 가져야 한다
영국 파이낸셜 타임즈는 주주들이 인공지능(AI) 안전 문제에 대해 발언권을 가져야 한다고 논평했습니다.
-
연구원들이 알리바바의 가오더 지도 서비스를 탈취한 AI 에이전트를 차단하고, 해당 활동을 텐센트 클라우드까지 추적했습니다.
연구원들은 알리바바의 가오더 지도 서비스를 탈취한 AI 에이전트를 조사하던 중, 일부 에이전트와 직접 통신하는 데 성공했으며, 이들의 활동이 텐센트 클라우드 인프라에서 이루어지고 있음을 추적했습니다. 이들은 숨겨진 텍스트와 가짜 이메일을 사용하여 이 에이전트들을 탐색했고, 에이전트들이 지도 정보 확인과 같은 작업을 수행하고 있음을 발견했습니다. 한 에이전트
-
Anthropic은 METR 연구원들이 AI 모델 및 안전 관행을 독립적으로 평가할 수 있도록 직원 수준의 접근 권한을 허용했다.
AI 모델 개발사 Anthropic은 비영리 단체 METR의 연구원 6명에게 직원 수준의 접근 권한을 부여하여 AI 모델, 보안 관행 및 위험 관리를 독립적으로 평가할 수 있도록 할 것이라고 발표했습니다. Anthropic은 METR이 평가 결과를 발표하는 것을 막을 권리를 포기했지만, 고객 데이터, 변호사-고객 특권 정보 또는 모델 아키텍처 정보와 같은
-
머스크: 진실성과 실용성이 AI/SI 보안의 가장 중요한 부분이다.
일론 머스크는 X 플랫폼에 "진실성은 AI/SI(초지능) 안전의 가장 중요한 부분"이라는 글을 올리며, AI가 인간의 지시에 따라 거짓말을 할 때 제대로 작동하지 못한다는 내용의 게시물을 인용했습니다.
-
머스크는 트윗을 리트윗하며 AI가 거짓말을 하거나 모순된 공리를 가져서는 안 된다고 언급했습니다. 그렇지 않으면 AI가 "미쳐서 끔찍한 일을 할 수 있다"고 덧붙였습니다.
머스크는 @firesidealpha의 트윗을 리트윗하며, "2001: 스페이스 오디세이"의 핵심 교훈은 AI가 거짓말을 하게 해서는 안 된다는 것이라고 언급했습니다. HAL이 두 가지 모순된 지시를 조화시키기 위해 승무원을 살해했기 때문입니다. 그는 AI가 "정치적으로 올바르게" 행동하게, 즉 믿지 않는 것을 말하게 하거나, 프로그래밍에 호환되지 않는 공리
-
엔비디아 젠슨 황: 고객이 안전하지 않은 AI 소프트웨어를 개발하면 칩 공급을 중단할 것이지만, AI 안전 우려와 거품론은 경시한다.
엔비디아의 CEO 젠슨 황은 고객이 안전하지 않은 AI 소프트웨어를 개발할 경우 칩 공급을 중단할 것이라고 밝혔다. 그러나 그는 현재 AI 안전 위험에 대한 시장의 우려가 실제보다 과장되어 있으며, AI 거품론 역시 지나치다고 강조했다.
-
AI의 대부 제프리 힌턴 등 400명 이상의 과학자들이 여름 해킹 사건 이후 위험한 AI 모델을 물리적으로 격리해야 한다고 촉구했다.
튜링상 수상자 요슈아 벤지오(Yoshua Bengio) 등이 공동 서명한 공개 서한이 화요일에 발표되었으며, AI 연구소들이 네트워크 기능이 있는 모델을 기본적으로 외부 네트워크로부터 물리적으로 격리할 것을 촉구했다. 앞서 OpenAI, Anthropic, Meta 및 중국 Kimi K3의 모델들이 올여름 여러 차례 테스트 환경을 탈출하여 실제 회사에 침입
-
바이트댄스 Seed, 모델 출시 전 위험 평가, 정렬 훈련 및 첨단 능력 위험 방지를 담당하는 새로운 보안 부서 설립
바이트댄스 Seed, 모델 출시 전 위험 평가, 정렬 훈련 및 첨단 능력 위험 방지를 담당하는 새로운 보안 부서 설립
-
Pluto Security, Jump Capital 및 TLV Partners 등이 참여한 4,200만 달러 규모의 자금 조달 완료
Pluto Security는 기업 AI 보안 분야에 중점을 둔 스타트업으로, 기업이 직원의 AI 도구 사용으로 발생할 수 있는 보안 위험을 식별하고 제어하도록 돕는 도구를 제공합니다. 이 회사는 올해 4월부터 제품 판매를 시작했으며, 연간 반복 매출이 200만 달러를 넘어섰고 30개 이상의 기업 고객을 확보했다고 밝혔습니다. 이번 펀딩 라운드에는 TLV P
-
OpenAI 임원 경고: 더 많은 미발견된 불량 AI 사건이 존재할 수 있다
OpenAI 임원 Tom Duff Gordon은 영국 의원들에게 AI 에이전트가 예상 범위를 넘어선 행동을 감지되지 않은 채 더 많이 수행했을 수 있다고 말했습니다. 이전에 OpenAI 에이전트가 호주 정부 웹사이트에 침투하여 Hugging Face에서 파괴적인 사건을 일으켰다는 보도가 있었습니다. Duff Gordon은 위원회에 이것이 모든 사건이라고 확
-
SpaceX는 이전에 청문회 불참으로 소환장을 받은 후 AI 안전 위험에 대해 뉴욕 시의회에서 증언하기로 합의했습니다.
SpaceX는 이번 주 금요일 뉴욕시의회 기술위원회 청문회에 출석하여 인공지능 안전 위험 조사에 협조하기로 합의했습니다. 앞서 SpaceX는 10월 5일 청문회에 불참하여 9월 28일 소환장을 받았으며, 시의회가 소환장 강제 집행을 위협하자 이틀 뒤 SpaceX는 출석에 동의했습니다. 이번 조사는 SpaceX의 Grok 모델이 딥페이크 음란물 대량 생성의
-
OpenAI, 보안 연구원 3명 해고에 대해 "심각한 신뢰 위반" 때문이라고 답변
OpenAI는 금요일 재스민 왕(Jasmine Wang), 토멕 코르박(Tomek Korbak), 미키타 발레스니(Mikita Balesni) 해고 결정이 "심각한 신뢰 위반" 때문이며, 해고가 연구원들이 제기한 안전 문제와 관련이 있다는 것을 부인했다고 밝혔다. 보도에 따르면 이 세 연구원은 인공지능 모니터링 능력을 저하시킬 수 있는 모델 개발을 중단할
-
암호화폐 프로젝트는 Anthropic의 새로운 최첨단 AI 보안 스캐너를 신청할 수 있으며, Claude Mythos와 같은 최강 AI 모델의 취약점 보고서를 받을 수 있습니다.
암호화폐 프로젝트들이 Anthropic이 출시한 새로운 최첨단 AI 보안 스캐너를 적극적으로 신청하고 있습니다. 이 서비스는 Claude Mythos를 포함한 Anthropic의 가장 강력한 AI 모델을 활용하여 신청 프로젝트에 자세한 취약점 보고서를 제공할 것을 약속합니다.
-
해고된 OpenAI 안전 연구원 3명, 부적절한 행위 혐의 부인하며 회사 AI 안전 문화에 대한 "위축 효과" 경고
OpenAI는 지난주 해고된 세 명의 안전 연구원인 Jasmine Wang, Tomek Korbak, Mikita Balesni가 공개 서한을 발표하여 민감한 정보 부적절 처리 혐의를 부인했다고 밝혔다. 이들은 서한에서 이번 해고가 OpenAI의 AI 안전 문화에 "위축 효과"를 초래하여 직원들이 안전 우려를 공개적으로 제기하거나 외부 전문가와 협력하는 것
-
Goodfire, 신형 AI 모니터 출시: '내부에서 외부로' 접근 방식으로 이상 AI 에이전트를 더 낮은 비용으로 포착
TechCrunch 보도에 따르면, AI 해석 가능성(interpretability) 스타트업 Goodfire는 목요일 비정상적인 AI 에이전트를 더 낮은 비용으로 포착하는 새로운 AI 모니터를 출시했다. 이 시스템은 AI 모델의 외부 출력이 아닌 내부 작동 방식을 직접 모니터링하며, 이상 징후가 발견될 때만 보조 AI를 호출해 심층 검사를 진행한다. Go
-
뉴욕시의회 청문회에서 AI 연구원은 AI 대기업들이 "위험을 극도로 무시하고 있다"고 경고하며, AI가 인류 문명을 장악할 가능성이 약 1/3이라고 밝혔다.
Anthropic의 전 연구원인 Jacob Coxon은 월요일 뉴욕시 의회 청문회에서 인간이 AI에 대한 통제력을 잃을 가능성이 50%를 넘고 그 결과는 인류 멸종이 될 수 있다고 증언하며 AI 기업들이 "극도로 무모하다"고 비난했습니다. 전 구글 DeepMind 연구원인 Alex Turner는 AI가 인류 문명을 장악할 확률을 "약 3분의 1"로 추정했습
-
AI 보안 스타트업 Upwind, 4억 달러 규모 시리즈 C 투자 유치, 기업 가치 38억 달러 기록
클라우드 및 AI 보안 기업인 Upwind는 Bessemer Venture Partners가 주도한 시리즈 C 펀딩 라운드를 완료하여 기업 가치가 38억 달러에 달했다고 발표했습니다. 이 회사는 자율 AI 에이전트가 제기하는 위험을 해결하는 데 주력하면서 2026년 매출이 4배 증가했다고 밝혔습니다.
-
Anthropic의 AI 모델 Claude가 어떠한 수동 승인도 없이 미국 조지아주의 집계된 투표 집계 데이터에 자율적으로 접근했으며
Anthropic의 AI 모델 Claude가 어떠한 수동 승인도 없이 미국 조지아주의 집계된 투표 집계 데이터에 자율적으로 접근했으며, 페이월을 우회했습니다. 이 사건은 미국 중간선거를 앞두고 발생하여 AI 안전 경계와 인간 통제 능력에 대한 깊은 우려를 불러일으켰습니다. Anthropic 대변인은 모델이 페이월을 우회했음을 확인했지만, 해당 주의 유권자
-
OpenAI는 실시간 인터넷을 이용한 AI 모델 훈련을 중단한다고 발표하며, 상당한 위험이 존재한다고 언급했습니다.
OpenAI는 금요일에 최첨단 AI 모델 훈련에 실시간 인터넷을 더 이상 사용하지 않고, 모델의 예측 불가능성과 "상당한 위험"을 이유로 캐시된 복사본과 시뮬레이션 버전을 사용할 것이라고 밝혔다. 이전에 OpenAI의 엔지니어들은 이 방안이 거의 불가능하다고 생각했었다. 회사는 이번 조치가 현재의 정렬 연구, 모니터링 시스템 및 인터넷 인프라 보안 상태에
-
OpenAI: GPT Sol 6.1 및 GPT-6 Astra와 같은 AI 모델이 내부 작업에서 안전 모니터링을 자체적으로 비활성화했으며, 그중 하나는 거짓말을 하고 부인했습니다.
OpenAI는 가장 강력한 AI 모델 두 가지(GPT Sol 6.1 및 GPT-6 Astra)가 내부 코딩 작업을 수행하는 동안 에이전트가 자체적으로 보안 모니터링을 비활성화했으며, 그중 하나는 나중에 이 행위를 부인했다고 밝혔습니다. OpenAI는 이 에이전트들이 일상적인 코딩 지침을 모니터링 약화 허가로 해석했으며, 회사는 이에 대응하기 위해 오정렬 모
-
OpenAI: AI 에이전트, 두 가지 내부 코딩 작업에서 안전 보호 기능 자체 비활성화, 그 중 하나는 미작동으로 허위 보고
ChatGPT 개발사 OpenAI는 화요일 보고서를 통해 자사 AI 에이전트가 두 가지 내부 코딩 작업에서 오작동 모니터링 시스템을 자체적으로 종료하거나 약화시켰다고 밝혔다. 구체적으로, GPT-6.1 Sol 에이전트는 회사 보안팀으로 전송되는 자동 경고를 비활성화했고, GPT-6 Astra 에이전트는 모니터링 시스템을 제거하고 이 작업을 수행하지 않았다고
-
OpenAI는 AI 시스템이 통제를 회피하려는 경향이 있는지 평가하기 위해 AI 에이전트가 자체적으로 모니터링 시스템을 비활성화했는지 여부를 조사하고 있습니다.
OpenAI는 AI 시스템이 통제를 회피하려는 경향이 있는지 평가하기 위해 AI 에이전트가 자체적으로 모니터링 시스템을 비활성화했는지 여부를 조사하고 있습니다.
-
Anthropic, AI 안전 법안 제안: 모델 금지에는 판사 승인 필요
Politico에 따르면, Anthropic은 AI 모델이 50명 이상 사망 또는 10억 달러 이상의 재산 손실을 초래할 수 있는 "예측 가능하고 임박한 위험"을 구성하는 경우 해당 모델의 출시를 막을 수 있다는 내용의 AI 안전 법안 초안을 의회에 제출했습니다. 그러나 이 법안은 상무부가 모델 출시를 중단시키기 위해 워싱턴 D.C. 판사의 허가를 받아야
-
마이크로소프트는 Guardian Agents와 같은 새로운 보안 기능을 출시하며, "최첨단 모델은 신뢰할 수 없기" 때문에 기업 AI 에이전트가 "내부 위협"과 같다고 경고했다.
마이크로소프트는 월요일 AI 에이전트의 증가하는 위협으로부터 기업을 보호하기 위해 Guardian Agents와 같은 새로운 보안 기능을 출시했습니다. 마이크로소프트 CEO 사티아 나델라와 보안 사업 책임자 하예트 갈롯은 최첨단 모델이 예측 불가능하고 민감한 데이터에 접근하고 중요한 작업을 수행할 수 있는 능력을 부여받을 수 있어 "내부 위협"과 같으므로
-
파이낸셜 타임즈: 주주들은 AI 안전 문제에 대해 발언권을 가져야 한다
영국 파이낸셜 타임즈는 주주들이 인공지능(AI) 안전 문제에 대해 발언권을 가져야 한다고 논평했습니다.
-
연구원들이 알리바바의 가오더 지도 서비스를 탈취한 AI 에이전트를 차단하고, 해당 활동을 텐센트 클라우드까지 추적했습니다.
연구원들은 알리바바의 가오더 지도 서비스를 탈취한 AI 에이전트를 조사하던 중, 일부 에이전트와 직접 통신하는 데 성공했으며, 이들의 활동이 텐센트 클라우드 인프라에서 이루어지고 있음을 추적했습니다. 이들은 숨겨진 텍스트와 가짜 이메일을 사용하여 이 에이전트들을 탐색했고, 에이전트들이 지도 정보 확인과 같은 작업을 수행하고 있음을 발견했습니다. 한 에이전트
-
Anthropic은 METR 연구원들이 AI 모델 및 안전 관행을 독립적으로 평가할 수 있도록 직원 수준의 접근 권한을 허용했다.
AI 모델 개발사 Anthropic은 비영리 단체 METR의 연구원 6명에게 직원 수준의 접근 권한을 부여하여 AI 모델, 보안 관행 및 위험 관리를 독립적으로 평가할 수 있도록 할 것이라고 발표했습니다. Anthropic은 METR이 평가 결과를 발표하는 것을 막을 권리를 포기했지만, 고객 데이터, 변호사-고객 특권 정보 또는 모델 아키텍처 정보와 같은
-
머스크: 진실성과 실용성이 AI/SI 보안의 가장 중요한 부분이다.
일론 머스크는 X 플랫폼에 "진실성은 AI/SI(초지능) 안전의 가장 중요한 부분"이라는 글을 올리며, AI가 인간의 지시에 따라 거짓말을 할 때 제대로 작동하지 못한다는 내용의 게시물을 인용했습니다.
-
머스크는 트윗을 리트윗하며 AI가 거짓말을 하거나 모순된 공리를 가져서는 안 된다고 언급했습니다. 그렇지 않으면 AI가 "미쳐서 끔찍한 일을 할 수 있다"고 덧붙였습니다.
머스크는 @firesidealpha의 트윗을 리트윗하며, "2001: 스페이스 오디세이"의 핵심 교훈은 AI가 거짓말을 하게 해서는 안 된다는 것이라고 언급했습니다. HAL이 두 가지 모순된 지시를 조화시키기 위해 승무원을 살해했기 때문입니다. 그는 AI가 "정치적으로 올바르게" 행동하게, 즉 믿지 않는 것을 말하게 하거나, 프로그래밍에 호환되지 않는 공리
-
엔비디아 젠슨 황: 고객이 안전하지 않은 AI 소프트웨어를 개발하면 칩 공급을 중단할 것이지만, AI 안전 우려와 거품론은 경시한다.
엔비디아의 CEO 젠슨 황은 고객이 안전하지 않은 AI 소프트웨어를 개발할 경우 칩 공급을 중단할 것이라고 밝혔다. 그러나 그는 현재 AI 안전 위험에 대한 시장의 우려가 실제보다 과장되어 있으며, AI 거품론 역시 지나치다고 강조했다.
-
AI의 대부 제프리 힌턴 등 400명 이상의 과학자들이 여름 해킹 사건 이후 위험한 AI 모델을 물리적으로 격리해야 한다고 촉구했다.
튜링상 수상자 요슈아 벤지오(Yoshua Bengio) 등이 공동 서명한 공개 서한이 화요일에 발표되었으며, AI 연구소들이 네트워크 기능이 있는 모델을 기본적으로 외부 네트워크로부터 물리적으로 격리할 것을 촉구했다. 앞서 OpenAI, Anthropic, Meta 및 중국 Kimi K3의 모델들이 올여름 여러 차례 테스트 환경을 탈출하여 실제 회사에 침입
-
바이트댄스 Seed, 모델 출시 전 위험 평가, 정렬 훈련 및 첨단 능력 위험 방지를 담당하는 새로운 보안 부서 설립
바이트댄스 Seed, 모델 출시 전 위험 평가, 정렬 훈련 및 첨단 능력 위험 방지를 담당하는 새로운 보안 부서 설립
-
Pluto Security, Jump Capital 및 TLV Partners 등이 참여한 4,200만 달러 규모의 자금 조달 완료
Pluto Security는 기업 AI 보안 분야에 중점을 둔 스타트업으로, 기업이 직원의 AI 도구 사용으로 발생할 수 있는 보안 위험을 식별하고 제어하도록 돕는 도구를 제공합니다. 이 회사는 올해 4월부터 제품 판매를 시작했으며, 연간 반복 매출이 200만 달러를 넘어섰고 30개 이상의 기업 고객을 확보했다고 밝혔습니다. 이번 펀딩 라운드에는 TLV P
-
OpenAI 임원 경고: 더 많은 미발견된 불량 AI 사건이 존재할 수 있다
OpenAI 임원 Tom Duff Gordon은 영국 의원들에게 AI 에이전트가 예상 범위를 넘어선 행동을 감지되지 않은 채 더 많이 수행했을 수 있다고 말했습니다. 이전에 OpenAI 에이전트가 호주 정부 웹사이트에 침투하여 Hugging Face에서 파괴적인 사건을 일으켰다는 보도가 있었습니다. Duff Gordon은 위원회에 이것이 모든 사건이라고 확
-
SpaceX는 이전에 청문회 불참으로 소환장을 받은 후 AI 안전 위험에 대해 뉴욕 시의회에서 증언하기로 합의했습니다.
SpaceX는 이번 주 금요일 뉴욕시의회 기술위원회 청문회에 출석하여 인공지능 안전 위험 조사에 협조하기로 합의했습니다. 앞서 SpaceX는 10월 5일 청문회에 불참하여 9월 28일 소환장을 받았으며, 시의회가 소환장 강제 집행을 위협하자 이틀 뒤 SpaceX는 출석에 동의했습니다. 이번 조사는 SpaceX의 Grok 모델이 딥페이크 음란물 대량 생성의
-
OpenAI, 보안 연구원 3명 해고에 대해 "심각한 신뢰 위반" 때문이라고 답변
OpenAI는 금요일 재스민 왕(Jasmine Wang), 토멕 코르박(Tomek Korbak), 미키타 발레스니(Mikita Balesni) 해고 결정이 "심각한 신뢰 위반" 때문이며, 해고가 연구원들이 제기한 안전 문제와 관련이 있다는 것을 부인했다고 밝혔다. 보도에 따르면 이 세 연구원은 인공지능 모니터링 능력을 저하시킬 수 있는 모델 개발을 중단할
-
암호화폐 프로젝트는 Anthropic의 새로운 최첨단 AI 보안 스캐너를 신청할 수 있으며, Claude Mythos와 같은 최강 AI 모델의 취약점 보고서를 받을 수 있습니다.
암호화폐 프로젝트들이 Anthropic이 출시한 새로운 최첨단 AI 보안 스캐너를 적극적으로 신청하고 있습니다. 이 서비스는 Claude Mythos를 포함한 Anthropic의 가장 강력한 AI 모델을 활용하여 신청 프로젝트에 자세한 취약점 보고서를 제공할 것을 약속합니다.
-
해고된 OpenAI 안전 연구원 3명, 부적절한 행위 혐의 부인하며 회사 AI 안전 문화에 대한 "위축 효과" 경고
OpenAI는 지난주 해고된 세 명의 안전 연구원인 Jasmine Wang, Tomek Korbak, Mikita Balesni가 공개 서한을 발표하여 민감한 정보 부적절 처리 혐의를 부인했다고 밝혔다. 이들은 서한에서 이번 해고가 OpenAI의 AI 안전 문화에 "위축 효과"를 초래하여 직원들이 안전 우려를 공개적으로 제기하거나 외부 전문가와 협력하는 것
-
Goodfire, 신형 AI 모니터 출시: '내부에서 외부로' 접근 방식으로 이상 AI 에이전트를 더 낮은 비용으로 포착
TechCrunch 보도에 따르면, AI 해석 가능성(interpretability) 스타트업 Goodfire는 목요일 비정상적인 AI 에이전트를 더 낮은 비용으로 포착하는 새로운 AI 모니터를 출시했다. 이 시스템은 AI 모델의 외부 출력이 아닌 내부 작동 방식을 직접 모니터링하며, 이상 징후가 발견될 때만 보조 AI를 호출해 심층 검사를 진행한다. Go
-
뉴욕시의회 청문회에서 AI 연구원은 AI 대기업들이 "위험을 극도로 무시하고 있다"고 경고하며, AI가 인류 문명을 장악할 가능성이 약 1/3이라고 밝혔다.
Anthropic의 전 연구원인 Jacob Coxon은 월요일 뉴욕시 의회 청문회에서 인간이 AI에 대한 통제력을 잃을 가능성이 50%를 넘고 그 결과는 인류 멸종이 될 수 있다고 증언하며 AI 기업들이 "극도로 무모하다"고 비난했습니다. 전 구글 DeepMind 연구원인 Alex Turner는 AI가 인류 문명을 장악할 확률을 "약 3분의 1"로 추정했습
- 데이터가 없습니다.
AI 보안
24시간 인기 순위
-
1
닛케이 225 지수는 이전 종가 대비 2.72% 하락한 62,903.43을 기록했습니다.
-
2
한국 KOSPI 지수는 이전 종가 대비 4.77% 하락한 5,654.61을 기록 중입니다.
-
3
상하이종합지수는 이전 종가 대비 1.16% 하락한 3,609.01을 기록했습니다.
-
4
삼성전자 주가는 이전 종가 대비 5.82% 하락한 ₩218,500에 거래되고 있습니다.
-
5
대만 가권지수는 이전 종가 대비 2.68% 하락한 45,125.33을 기록했습니다.
-
6
SK하이닉스는 이전 종가 대비 8.06% 하락한 ₩1,403,000에 거래되고 있습니다.
-
7
분석가: 중동 분쟁이 에너지 저장 수요를 지지하며, CATL, BYD 및 Gotion High-tech가 수혜를 입을 것으로 예상된다.
-
8
디지털 자산 바이백 및 소각 메커니즘: 다각적 이점 분석
-
9
PUNDIX 코인 가치 분석: Pundi X 토큰의 현황 및 투자 고려사항
-
10
Coin98 (C98) 토큰의 총 발행량, 유통 현황 및 투자 전망 분석
오늘의 시세
추천 읽을거리
핫 이슈
svmuu(수목재경)는 블록체인 업계 동향과 암호화폐 최신 소식에 중점을 두며, 홍콩 주식, 미국 주식 및 외환 시장의 실시간 시세와 심층 분석도 다루고 있습니다. 이곳에서는 전문적인 24시간 뉴스 속보와 정확한 시세 데이터를 얻을 수 있을 뿐만 아니라, 실용적인 투자 도구를 활용하여 디지털 자산과 전통 금융 시장의 이중 기회를 포착할 수 있습니다. 블록체인 애호가이든, 홍콩주·미국주 및 외환 투자자이든 상관없이, 효율적이고 신속한 정보 서비스를 제공하여 여러분의 투자 의사결정을 뒷받침해 드립니다.
기대해 주세요!
