生命科学向けAIの安全管理が、要求ごとの遮断から利用パターンの監視へ移る。Anthropicの新制度は、研究組織を事前審査して利用範囲を広げる一方、申請用途から外れた活動を継続的に検出する。
研究資格と管理体制を確認してアクセスを開く
生命科学向けのアクセス制度「Life Sciences Verification Program（LSVP）」はベータ版として始まり、当初はチームと機関から申請を受け付ける。Anthropicは、一般提供モデルで遮断される創薬、研究生物学、臨床開発、製造などの業務を、審査済みの利用者へ開放する。
審査では、申請者の研究資格だけでなく、セキュリティ基準と倫理的な研究監督体制も確認する。利用者個人の要求だけを見るのではなく、研究を管理する組織の能力と責任体制をアクセス許可の前提に置く構成だ。
日常業務と高リスク研究を2段階の許可に分ける
審査を通過したチームは、Standard UseとHigh-risk Useという2種類の利用許可を申請できる。Standard Useはチーム全体の日常的な生命科学業務を対象とし、一般提供モデルより科学用途に寛容な分類器を適用する。許可は年1回更新される。
High-risk Useは、Standard Useでは遮断される単一の研究プロジェクトに限定した追加許可となる。生命科学要求を遮断する安全策を外す代わりに、チーム単位ではなくプロジェクト単位で審査し、更新間隔を6カ月とする。サイバー分野の分類器など、生命科学以外の安全策はどちらの許可でも維持される。
申請用途を基準にセッション横断の挙動を調べる
許可されたアクセスは、申請時に組織が示した用途へ結び付けられる。用途には業務の大まかな説明を使い、機密情報や知的財産を含める必要はない。監視処理は、この申告範囲から外れた利用や行動パターンを継続的に探す。
この構成に伴い、安全管理の中心は、潜在的に有害な要求を入力時に拒否するリアルタイム遮断からオフライン監視へ移る。複数の要求やセッションへ分散した活動を一つのパターンとして扱い、個々の要求だけでは捉えにくい不正利用を検出する仕組みだ。
30日間の保持データを隔離して調査につなぐ
オフライン監視には時間をまたいだ照合が必要になるため、LSVPのトラフィックではフラグ対象活動に関連するデータを30日間保持する。保持データは隔離され、モデル学習には使われず、Anthropicの生命科学研究部門もアクセスできない。
許可されていない活動が見つかった場合は、組織管理者へ通知される。管理者は事前に合意した期限内に事案を調査し、是正するため、アクセスを広げる判断と組織側の対応責任が同じ管理経路へ組み込まれる。