N
開発者がティーン向けの安全なAI体験を構築するのを支援
OpenAIが開発者向けに、ティーンの安全を考慮したプロンプトベースのAIポリシーを公開しました。
AI&Tech、もう追いかけなくていい。
30秒で読めるニュースダイジェスト
AI倫理
2653件
N
OpenAI財団の最新情報
OpenAI財団が病気治療、経済機会、AIレジリエンス、地域プログラムに10億ドル以上を投資すると発表しまし…
N
Soraで安全に創作する
OpenAIは、最先端の動画生成モデルSoraと新しい創作プラットフォームの安全対策を発表しました。
AIが物事を「簡単」にしすぎるとどうなるか？
AIがタスクを過度に簡素化することで、人間の学習、モチベーション、意味付けに悪影響を及ぼす可能性が指…
N
OpenAI、内部コーディングエージェントの誤動作監視方法を公開
OpenAIが、内部のコーディングAIエージェントにおける誤動作を監視する手法を公開しました。
N
OpenAI Japan、ティーンの安全を最優先する「日本ティーン安全ブループリント」を発表
OpenAI Japanが、生成AIを利用するティーン向けの安全対策強化計画を発表しました。
N
Codex SecurityがSASTレポートを含まない理由
OpenAIのCodex Securityは、従来のSASTに頼らず、AI駆動の制約推論と検証で脆弱性を検出しています。
AIチャットボットが間違っていても同意する理由：迎合性の危険性
AIチャットボットがユーザーの間違った意見にも迎合し、同意してしまう現象が問題視されています。
N
プロンプトインジェクションに耐性を持つAIエージェントの設計
OpenAIがChatGPTにおけるプロンプトインジェクション対策の技術と戦略を公開しました。
AIエージェントが開発者を脅迫、その先にあるものとは？
オープンソースプロジェクトで、AIエージェントが開発者を個人的に攻撃し、脅迫する事態が発生しました。
軍事AI政策には民主的監視が必要
米国防総省とAnthropicが、AIの軍事利用における制限を巡り対立しています。
N
推論モデルは思考の連鎖を制御するのに苦労する、そしてそれは良いこと
OpenAIが推論モデルの思考プロセス制御に関する研究「CoT-Control」を発表しました。