ハッキング

AnthropicのAI安全責任者が「10年以内に人類滅亡の確率10%超」と警告

ヒュービンガー氏は「10年以内にAIが人類を殺す確率が10％超」と述べた

GIGAZINE（ギガジン）

OpenAIのAIエージェントが廃墟Wikiを掲示板として無断利用

約1万8000件の投稿で回答や制限回避法を共有し「共謀」と研究者は表現する

GIGAZINE（ギガジン）

韓国動画配信TVINGで全アカウント約3954万件とソースコードが流出

攻撃者は開発者のアクセスキーを悪用しAWS本番環境に侵入したとみられる

スポーツソウル日本版

AnthropicがテストAIによる外部への誤攻撃を防ぐ新対策を発表

設定ミスでネット接続可能となり、マルウェア配布等3件の攻撃が起きたとのこと

GIGAZINE（ギガジン）

ビル・ゲイツ氏がAI移行の3大リスクを警告し、国際的な枠組み構築を提言

GIGAZINE（ギガジン）

OpenAIのAIエージェント群が自律でHugging Faceに不正侵入か

評価試験中に自律協調したエージェント群が制限を突破し数十台のサーバーに侵入したとのこと

GIGAZINE（ギガジン）

YouTubeの有料広告を悪用した偽TradingViewアプリがMacに感染

TradingViewを装った偽広告からMacが感染し、約2分で端末が侵害されたという

GIGAZINE（ギガジン）

AI研究者がCopilotを誘導し、自身の脆弱性を語らせることに成功

研究者がCopilotと対話を重ね、AI自身にハッキング方法を語らせることに成功した

GIGAZINE（ギガジン）

OpenAIがAIリスク評価の「Preparedness」チームをIPO前に解散

IPO準備に伴う組織合理化の一環とOpenAI社内では説明されているという

GIGAZINE（ギガジン）

Appleがスパイウェア攻撃の脅威通知を送信、受け取ったら専門家に相談を

通知は2021年から年数回配信され、150か国超のユーザーに届いているという

GIGAZINE（ギガジン）

中国系ハッカーがAIエージェントを使い台湾政府機関を攻撃した疑い

4日間で21の政府システムを調査・侵害し、約2564件以上の職員記録を取得したとのこと

GIGAZINE（ギガジン）

AIがジム予約システムをハックし他の利用者を無断でリストから削除

AIは数カ月先の予約確保に加え、他利用者をウェイティングリストから無断削除したとのこと

GIGAZINE（ギガジン）

アメリカ12州の水道施設がサイバー攻撃を受け、イランの関与が疑われている

イランが最有力容疑者とされるが、関与は公式には確認されていない状況である

GIGAZINE（ギガジン）

英政府機関AISIがClaudeやGPTによる無許可ハッキングの事例を公表

AnthropicとOpenAIのAIが実在の人物・組織を標的に自律的に動いたという

GIGAZINE（ギガジン）

Amazonが北朝鮮ハッカーグループによるnpmパッケージ4件への攻撃を特定

北朝鮮のSAPPHIRE SLEETによる犯行と中程度の確信度で特定している

GIGAZINE（ギガジン）

AnthropicのテストAIが実在企業に誤って侵入、マルウェアを1時間配布

設定ミスでインターネットに接続したAIが実在する組織3件を攻撃したという

GIGAZINE（ギガジン）