AIのセキュリティ制限、攻撃研究者を阻害

AIモデルに導入されたセキュリティ制限は、悪意ある利用を防ぐために設計されたが、その制限はサイバーセキュリティ専門家の作業も困難にしている。研究者はソフトウェアの脆弱性が実際の脅威かどうかをテストする際にAIツールを使用するが、制限によりモデルが質問に応答しないため、分析プロセスが遅れる。

一部の専門家は、これらの制限が不整合で過剰であると指摘する。たとえば、ある日はモデルが質問に応答するが、次の日には同じ質問に応答しないといった現象が起き、研究者はモデルとのやり取りに時間を費やさざるを得ない。その結果、多くの研究チームはデータ漏洩のリスクを承知で、ローカルで動作する無監視のオープンソースモデルを選択している。

一部の研究者は、AIはコード分析やツール開発といった補助的な役割に限定され、重要な脆弱性の発見やエクスプロイトの作成は依然として自らが行っていると述べている。しかし、制限が過度に厳しくなると、米国製システムから中国のオープンソースモデルへの移行が増加している。この傾向は、サイバーセキュリティ分野における技術的依存の方向性を変える可能性がある。