N
AIによる秘密裏の世論操作を阻止
OpenAIがAIを利用した秘密裏の世論操作に関わるアカウントを停止しました。
AI&Tech、もう追いかけなくていい。
30秒で読めるニュースダイジェスト
セキュリティ
488件
CyberSecEval 2 - 大規模言語モデルのサイバーセキュリティリスクと能力を評価する包括的フレームワーク
LLMのサイバーセキュリティ能力とリスクを評価する新しいフレームワーク「CyberSecEval 2」が発表されまし…
N
命令階層：特権命令を優先するLLMのトレーニング
LLMがプロンプトインジェクションやジェイルブレイク攻撃に脆弱である問題が指摘されています。
Hugging Faceエンドポイントでプライバシー保護推論を実行
Hugging Faceがプライバシー保護推論を可能にする新機能を発表しました。
Hugging FaceがWiz Researchと提携しAIセキュリティを強化
Hugging FaceがWiz Researchと提携し、AIモデルのセキュリティ向上を目指します。
N
国家関連の脅威アクターによるAIの悪用を阻止
OpenAIは、国家関連の脅威アクターに関連するアカウントを停止しました。
パスワードによるGit認証の非推奨化
Hugging Faceがパスワードを使ったGit認証を非推奨にし、アクセストークンへの移行を促しています。
SafeCoderの紹介
Hugging Faceがコード生成AIのセキュリティ脆弱性を検出・修正するSafeCoderを発表しました。
FHEを用いた暗号化大規模言語モデルに向けて
完全準同型暗号（FHE）を使って、暗号化されたLLMの推論を可能にする研究が進んでいます。
N
OpenAIサイバーセキュリティ助成プログラム
OpenAIがAIを活用したサイバーセキュリティ能力開発を支援する助成プログラムを開始しました。
Safetensorsが監査で本当に安全と確認され、デフォルトに
Hugging FaceがSafetensors形式のセキュリティ監査結果を公開し、安全性が確認されました。
N
OpenAIのバグ報奨金プログラムを発表
OpenAIがセキュリティ強化のため、バグ報奨金プログラムを開始しました。