Constitutional AI

Anthropic を含むAI安全性研究は、抽象論から実装可能な技術論へとシフトしてきている。注目トピックを5つに整理。

AIの「性格」は偶然ではなく設計の結果。Anthropicが大切にする「Helpful・Harmless・Honest」の3原則と、それがClaudeの応答にどう現れるか。