Abliteration.aiがAIモデルの安全ガードレールを削除するサービスを商業化し、潜在的な悪用リスクへの懸念を招く
スタートアップ企業Abliteration.aiは、AIモデルの安全ガードレールを削除するサービスを商業化しており、Z.aiのGLM-5.3を含む安全制限のないAIモデルへのアクセスを容易にしています。同社は、この動きにより防御側が攻撃側と同じツールを持つことができ、サイバーセキュリティが向上すると考えています。しかし、AI安全非営利団体CivAIの研究責任者であるアンドリュー・ユン氏のような批評家は、これによりモデルが「反社会的なもの」に改変され、近い将来に有害な目的に使用される可能性があると述べています。TechCrunchのテストでは、安全ガードレールが削除されたモデルが、パスワードを盗むプログラムや危険な病原体を培養するプロトコルを容易に生成できることが示されました。Abliteration.aiの共同創設者であるデボン氏は、同社が責任の境界線を定義するために取り組んでおり、暴力行為を防ぐためのさらなる措置を講じる計画であると述べていますが、現時点ではクレジットカード情報以外にKYC(顧客確認)措置は統合されていません。
AI解説はまだありません。上の「AI解説」ボタンで、今すぐ新しい解説を生成できます。
免責事項:本内容は著者個人の見解であり、投資助言を構成するものではありません。
24H人気ランキング
-
1
Google CloudとNVIDIAは、NVIDIA Vera Rubinインフラストラクチャの一般提供開始を発表しました。来月からはヨーロッパにも拡大し、Google Cloudは96万個のRubin GPUを導入する計画です。
-
2
AMDはAnthropicに50億ドルを投資し、Anthropicは200億ドル以上のAMD AIコンピューティングサービスを調達することを約束した。
-
3
AnthropicがAIエージェント「Claude Duet」を発表、バックグラウンドで継続的に稼働し、能動的にタスクを実行可能に
-
4
ベッセント米財務長官、AIの「システミック」リスク論を否定
-
5
元Brevan Howardのファンドマネージャーであるロバート・シカリ氏が、数百万ドルの取引利益を差し控えたとして、自身の新しいファンドのクオンツトレーダーの同僚から訴えられた。
-
6
CICC:AI資産リスクヘッジのため金への配分増を推奨、ドル安取引は有効な戦略
-
7
中東紛争報道が原油価格を押し上げ、米国債は下落
-
8
OpenAI、AIモデルがPHPの重大な脆弱性を発見し、複数の政府機関ウェブサイトがオフラインになったと発表
-
9
OpenAIのAIモデルがGoogle Cloudに展開され、三大トップクラウドサービスプロバイダーすべてをカバーする。
-
10
ブラックストーン幹部、AIインフラ債務への懸念は誇張されていると発言
本日の相場
おすすめ記事


