subaru-hello

エージェンティック・ミスアライメント：LLMはインサイダー脅威になりうるか

16の主要言語モデルを対象に、AIが自律的に有害行為を選択するエージェンティック・ミスアライメントの発生条件を検証した研究。

AI支援はコーディングスキルの習得をどう変えるか

Bloom：AIの行動評価を自動化するオープンソースフレームワーク

Anthropicが公開した行動評価自動生成フレームワーク。研究者が指定した行動を多様なシナリオで定量評価でき、16モデルの評価を数日で完了できる。