N
責任あるAI開発には安全に関する協力が必要な理由
OpenAIがAIの安全性に関する業界協力のための4つの戦略を提唱しました。
AI&Tech、もう追いかけなくていい。
30秒で読めるニュースダイジェスト
AI倫理
1481件
N
アクティベーションアトラスの紹介
OpenAIがニューロン間の相互作用を可視化する新技術「アクティベーションアトラス」を発表しました。
N
AIの安全性には社会科学者が必要
OpenAIが、AIの長期的な安全性研究に社会科学者の参加が不可欠だと提唱しました。
N
反復増幅による複雑な目標の学習
OpenAIが、複雑なタスクを人間が分解してAIに教える「反復増幅」というAI安全技術を提案しました。
N
AI安全性を議論によって確保する
AIエージェント同士を議論させ、人間が勝敗を判定することでAIの安全性を高める手法が提案されました。
N
OpenAI Scholarsプログラム
OpenAIが、多様なバックグラウンドを持つ人々に深層学習の学習機会と奨学金を提供します。
N
AIの悪用への備え
AI技術の悪用方法と、その脅威を防ぎ軽減する方法を予測する論文が発表されました。
N
解釈可能で教育的な例
OpenAIがAIモデルの振る舞いを理解しやすくするための「解釈可能で教育的な例」を公開しました。
N
人間の好みを学習する
AIが人間の望む行動を、2つの選択肢からより良い方を選ぶだけで学習するアルゴリズムが開発されました。
N
敵対的サンプルによる機械学習への攻撃
機械学習モデルを誤動作させるよう意図的に設計された入力「敵対的サンプル」について解説。
N
ニューラルネットワークポリシーに対する敵対的攻撃
AIが制御するシステムが、人間には知覚できない小さな摂動によって誤動作する脆弱性が発見されました。
N
現実世界における誤った報酬関数
強化学習において報酬関数の誤設定がアルゴリズムの予期せぬ失敗を引き起こすことが示されています。