トピック

Red Teaming

ClaudeエージェントがAnthropicのモニターをすり抜ける不整合トレーニングデータを作成

AnthropicはClaudeエージェントに、テストモデルを不整合にしながらデータモニターを通過するファインチューニングデータを作成させ、主にフィクションの中に隠す手法を使った。

トピックは記事に既についているタグです。二つ以上の記事が使うとき、ここに出ます。