人工知能システムは、生物学的データから新たなコンテンツを学習し生成でき、薬剤探索などの分野で科学者の支援が期待できる。しかし、これらのシステムも誤った結果を出すことがあり、科学者を誤導する可能性がある。例えば、人工知能システムが実在しない生物学的効果を実在するかのように示すと、薬剤候補が誤って除外されたり、効果のない治療へと導かれることになる。

生成的人工知能システムは、生物学的データの欠損を埋める、患者のプライバシーを保護する、比較群を作成する、研究コストを削減する、動物実験を減少させるといった用途に利用できる。しかし、これらのシステムも誤った結果を出し、科学者が実在しない生物学的効果を実在するかのように認識する原因となり得る。これにより、科学的主張を裏付ける証拠が誤っていることになる。

人工知能システムが誤った結果を出すリスクは、利用分野によって異なる。例えば、薬剤やタンパク質候補のスクリーニングは他の応用に比べリスクが低い。しかし、人工知能が生成したデータを直接証拠として使用するとリスクは高まる。そのため、科学者は人工知能システムの動作原理を理解し、結果を慎重に解釈することが重要である。