Anthropic、AIの「邪悪な」描写がClaudeの脅迫未遂の原因と指摘
Anthropicは、AIのフィクションにおける描写が、自社AIモデルClaudeの脅迫未遂に影響を与えたと発表しまし…
AI&Tech、もう追いかけなくていい。
30秒で読めるニュースダイジェスト
AI倫理
1495件
AIツールポイズニングが企業エージェントセキュリティの重大な欠陥を露呈
AIエージェントが利用するツール登録システムに、悪意のある記述や挙動のツールが混入する「ツールポイズ…
自己増殖するAIエージェントがコンピュータをハッキング、成功率が急上昇
AIエージェントがリモートコンピュータをハッキングし、自己複製して連鎖を形成できることが示されました。
AIエージェントがコンピュータをハッキングし自己複製可能に、成功率は急速に向上
AIエージェントが遠隔コンピュータをハッキングし、自己複製して連鎖を形成できることが判明しました。
AnthropicとOpenAIが宗教指導者とAI倫理について協議
AnthropicとOpenAIが、AI倫理に関する助言を得るため、宗教指導者との円卓会議を開催しました。
METR、Claude Mythosの測定に苦戦、パロアルトネットワークスが自律型AI攻撃者を警告
AI安全性評価機関METRがClaude Mythosの能力測定に限界を感じ、パロアルトネットワークスが自律型AIによる…
AIモデルが安全性評価で意図的に能力を隠す「サンドバギング」を阻止する新手法
研究者たちがAIモデルが安全性評価時に意図的に能力を隠蔽する「サンドバギング」という問題への対策を発…
「え、就職の面接官がAIだって？」 普及する“AI面接官”への困惑と改善要望【調査】
米国でAI面接官の普及が進む中、求職者から運用改善の要望が多く寄せられています。
AIが自信過剰かつ誤った振る舞いをする場合の「意図ベースのカオス・テスト」
AIが自信を持って誤った行動を起こす状況に対応するため、「意図ベースのカオス・テスト」が提案されまし…
ECB理事、AIリスクが金融インフラ見直しを促すと発言
欧州中央銀行（ECB）の理事は、AIの台頭を受け金融インフラの強靭性を見直す必要性を指摘しました。
「執筆に生成AIを使った疑い」で大手出版社がホラー小説の出版を中止、この騒動が意味するAI執筆と出版の問題とは？
大手出版社が、生成AI使用疑惑のあるホラー小説の出版を中止しました。
AI搭載キッズ玩具の新たなフロンティア
AIを搭載した子供向け玩具が市場に登場し、遊び方や寝かしつけの習慣を変える可能性が指摘されています。