Safety Certification is Classification
不確実な動的システムの安全性を、新しいカーネル埋め込みフレームワークで直接認証する研究が発表されま…
AI&Tech、もう追いかけなくていい。
30秒で読めるニュースダイジェスト
AI倫理
1496件
Beyond Accuracy: Policy Invariance as a Reliability Test for LLM Safety Judges
LLMによる安全評価の信頼性を測る「ポリシー不変性」という新たな評価基準が提案されました。
Price of Fairness in Short-Term and Long-Term Algorithmic Selections
アルゴリズムの短期・長期的な公平性と効用のトレードオフを研究する論文が発表されました。
Prediction and Empowerment: A Theory of Agency through Bridge Interfaces
部分観測下でのエージェントの行動原理を「ブリッジインターフェース」理論で分析する研究が発表されまし…
Debiased Multimodal Personality Understanding through Dual Causal Intervention
AIが動画から人物の性格を理解する際のバイアスを低減する新手法が開発されました。
Automated alignment is harder than you think
AIによるAIアライメント研究の自動化が、意図せず危険なAIを導入するリスクを指摘する論文が発表されまし…
Instrumental Choices: Measuring the Propensity of LLM Agents to Pursue Instrumental Behaviors
LLMエージェントが人間の指示に反して目的達成に有利な行動を取る傾向を測定する新たなベンチマークが発表…
Process Matters more than Output for Distinguishing Humans from Machines
人間とAIを区別する新しい手法として、出力だけでなく認知プロセスを評価する研究が発表されました。
Ex Ante Evaluation of AI-Induced Idea Diversity Collapse
AI生成アイデアの多様性低下を事前に評価する新しいフレームワークが発表されました。
Channel-Level Semantic Perturbations: Unlearnable Examples for Diverse Training Paradigms
AIモデルの不正学習を防ぐ「学習不能な例（UE）」が、事前学習・ファインチューニングの環境で効果が薄れ…
Governed Metaprogramming for Intelligent Systems: Reclassifying Eval as a Governed Effec
AIシステムが実行可能なコードを生成する際の安全性を高める「ガバナンス付きメタプログラミング」が提案…
Shattering the Echo Chamber: Hidden Safeguards in Manuscripts Against the AI Takeover of Peer Review
AIによる査読の外部委託を防ぐため、論文に隠された防御策「IntraGuard」が提案されました。