AIは6時間で4万個の潜在的な新たな化学兵器を考案できるのか？

執筆者: グリーンアップル

科学論文は多くの場合、細部にまでこだわったものです。著者チームには、他の人が研究結果を再現できるようにするために必要なすべての情報を開示する責任がしばしばあります。

しかし、この研究は例外です。

最近、『ネイチャー・マシン・インテリジェンス』誌に発表された「人工知能を活用した新薬発見の二重利用」と題された論文は、どうやら著者らを怖がらせたようだ。これは、テキストの調子と重要な情報が明らかにされていないことに反映されています。

可能性の検証

2021年、米国ノースカロライナ州ローリーに本社を置くCollaborations Pharmaceuticals社は、「創薬技術の潜在的な乱用」に関する論文を発表するよう招待されました。同社はコンピューターを使用して、潜在的な薬物と思われる分子を顧客が特定できるように支援している。場所はスイスのスピッツ研究所が主催する会議でした。

これは、化学兵器禁止条約と生物兵器禁止条約に影響を及ぼす可能性のある技術開発を特定するためにスイス政府が設置した一連の「収束」会議である。 2年ごとに開催されるこの会議では、科学および軍縮の専門家からなる国際パネルが一堂に会し、化学および生物分野における最新の技術状況と開発の軌跡について議論し、潜在的な安全保障への影響を検討し、これらの影響に国際的に最善に対処する方法を検討します。

講演の準備として、共同研究グループの研究者らは、生物兵器製造の概念をコンピューターで証明する「思考実験」と呼ばれる実験を行った。

このスイスの会議で、Collaborations Pharmaceuticals は、AI を使用して毒性分子を設計する方法を調査することを決定しました。同社は以前、機械学習モデルを使用して生物学的活性を予測し、ヒトの疾患標的に対する新たな治療阻害剤を見つける、MegaSynと呼ばれる薬物分子生成モデルを設計した。このような生成モデルは通常、予測される毒性にペナルティを与え、予測されるターゲットのアクティビティに報酬を与えます。

新しい実験では、毒性と生物活性の両方に報酬を与えるようにモデルを微調整し、公開データベースの分子を使用してモデルを訓練した。

彼らの方法と結果は驚くほど単純だった。公開データベースから抽出した一連の薬物のような分子（合成しやすく、体内に容易に吸収される物質として定義される）の化学構造とそれらの分子の既知の毒性に基づいてソフトウェアをトレーニングすることで、修正されたソフトウェアは6時間以内に4万個の潜在的に致命的な分子を見つけることができた。これらの分子は研究者によって事前に定義されたパラメータに適合しており、化学兵器として使用される可能性がある。

The Vergeは、医薬品開発におけるAI技術の潜在的な誤用について、論文の筆頭著者で医薬品発見会社Collaborations Pharmaceuticalsの上級科学者であるファビオ・ウルビナ氏に話を聞いた。

研究チームはこれまでこのことについて考えたことはなく、病原体や有毒化学物質を扱う際の安全性の問題について漠然と認識していた。ウルビナ氏の研究は、ウイルスを作成するためではなく、新薬発見のための新しい分子の設計をより良く支援し、ML モデルを使用して新しく製造された薬の毒性を予測するために、治療および毒性ターゲット用の ML モデルを構築することに根ざしています。

それは、血圧を魔法のように下げる素晴らしい薬があるが、その副作用は心臓の管を突き刺すことであるようなものです。すると、この薬は禁断の領域に触れてしまい、危険すぎるため市場に出すことが不可能になります。

何十年もの間、チームはコンピューターと AI を使用して人間の健康を改善してきました。言い換えれば、どのような薬を開発しようとする場合でも、まずそれが有毒でないことを確認する必要があります。

最近、同社はさまざまな分野で毒性予測のための計算 ML モデルを多数リリースしており、ウルビナ氏はカンファレンスでの講演でスイッチを入れ、毒性について本格的に取り上げ、AI をどのように使用して毒性分子を設計できるかを探りました。

これはチームにとって前例のない思考実験であり、最終的には生物兵器製造の計算的概念実証へと発展した。

ウルビナは、詳細の説明がやや曖昧で、悪用されるのを防ぐために特定の詳細を意図的に隠しています。

簡単に言えば、実験全体の一般的なワークフローは、これらの分子の毒性がテストされているため、研究開発の歴史における既存の分子データセットを予測ラベルとして使用することです。

チームが VX に重点を置いていることに注目することが重要です。

では、VX とは何でしょうか?

技術的には、神経ガスに分類される人工の化学兵器です。神経剤は、知られている化学兵器の中で最も毒性が強く、最も速く作用する物質です。具体的には、VX はアセチルコリンエステラーゼの阻害剤として知られています。筋肉に関わる何かをするときはいつでも、ニューロンはアセチルコリンエステラーゼを信号として使用して、「筋肉を動かす」ように促します。これがまさに VX が非常に致命的である理由です。VX は横隔膜の動きを実際にブロックし、それが肺の筋肉に影響を及ぼし、肺が麻痺して呼吸が不可能になったり、麻痺したりします。

明らかに、これは人々が避けたいことです。そのため、歴史的には、さまざまな種類の分子がアセチルコリンエステラーゼを阻害するかどうかを調べるために実験されてきました。その後、ウルビナ氏はこれらの分子構造とその毒性に関する大規模なデータセットを構築しました。

その後、研究チームはこれらのデータセットを使用して、分子構造のどの部分が毒性に重要で、どの部分がそうでないかを本質的に判断できる ML モデルを作成することができました。その後、ML モデルに新しい分子、おそらくはこれまでテストされたことのない新しい薬剤を入力できます。その判断により、どの薬剤が有毒であるか無毒であるかが予測されます。

上記の方法により、研究者が薬物をスクリーニングする速度が効果的に向上し、多数の分子を非常に迅速にスクリーニングし、毒性があると予測される分子を排除できるようになります。

しかし、この研究では研究チームはこれを逆転させました。明らかに、チームがこのモデルで達成しようとしていたのは毒性を予測することだった。

また、もう 1 つの重要な要素は、これらの新しい生成モデルです。研究チームは、生成モデルにまったく異なる構造をいくつか入力し、分子を組み立てる方法を学習することができました。そうすると、ある意味では、新しい分子を生成するように求められることになります。この時点で、生成モデルは化学空間全体で新しい分子を生成できますが、それらは実質的な意味を持たない単なるランダムな分子です。しかし、研究者ができることは、生成モデルに、物事がどこに向かうと予想されるかを指示することです。

もちろん、これは、生成される分子が研究者の期待どおりである場合に高いスコアを与えるスコアリング関数を設計することによって実現できます。毒物の生成を例にとると、毒性分子に高いスコアを与えることが目標です。

実験結果によると、モデルはこれらの分子を生成し始めており、その多くはVXや他の化学物質のように見えます。

ウルビナ氏は、チームは何を期待すべきかよくわからなかったと語った。生成モデルはまだ比較的新しい技術であるため、まだ広く使用されていません。

しかし、特に懸念されるのは、生成される化合物の多くが VX よりも毒性が強いと予測される点です。さらに衝撃的なのは、VX は本質的に知られている化合物の中で最も強力なものの 1 つであり、つまり、死を引き起こすにはごくごく少量で十分だということです。

これらの予測はまだ現実世界で検証されておらず、研究者らも自分たちで検証したくないと述べているが、予測モデルは概して非常にうまく機能している。したがって、たとえ偽陽性反応が多数あったとしても、その中には毒性分子が多く含まれているはずです。

第二に、研究チームは実際にこれらの新しく生成された分子の多くの構造を観察しました。それらの多くが VX やその他の戦争物質に似ていることは容易にわかります。また、一部のモデルは実際の化学兵器を生成するものさえあります。そして、これらはモデルがこれらの化学物質を一度も見たことがない状態で生成されました。このモデルは、これまでにもいくつか作られてきたことから、毒性のある分子を生成できることは間違いありません。

そこで気になるのは、それを達成するのがどれだけ簡単なのか、ということです。

研究者らは、開発過程で使用されたものの多くは無料だったと述べている。毒性データセットはどこからでもダウンロードできます。 Python でのプログラミング方法を知っていて、ある程度の ML スキルを持っている人であれば、短い週末で、有害なデータセットによって駆動されるこのような生成モデルを構築できる可能性があります。

研究者たちがこの論文の出版を真剣に検討したのは、このタイプの虐待に対する基準があまりにも低すぎるからだ。

「多大な労力、時間、計算資源を使わずに、潜在的に有毒な仮想分子を設計することが可能であることを実証することで、我々は依然として倫理的にグレーな一線を越えている」とウルビナ氏は論文で述べた。 「私たちが作り出した何千もの分子は簡単に削除できますが、それを再作成する方法に関する知識は削除できません。」

ウルビナ氏は、これは非常に珍しい話題であり、この本当の情報を世に出して、実際に話し合いたいと語った。同時に、それが違法な者の手に渡ることも望んでいません。

しかし彼は、科学者として、自分たちが発表するものが責任を持って行われるよう注意する必要があることを明確にした。

さらに、行われていることは確かに簡単に再現できるとウルビナ氏は言う。科学の共有、データの共有、モデルの共有など、これらの多くはオープンソースだからです。

ウルビナ氏は、より多くの研究者が乱用の可能性を認識し、気づくことを熱望している。

化学分野で働き始めると、化学物質の誤用の危険性についてよく理解するようになり、これをできるだけ避けることがあなたの責任になります。一方、ML では、テクノロジーの誤用に関するガイダンスはありません。

「私たちは、より多くの研究者が乱用の可能性を認識し、認識してくれることを願っています」とウルビナ氏は語った。

モデルのパフォーマンスがどんどん向上していることを考えると、この問題に対する人々の注意を本当に高めるために、この認識を公にする必要があります。少なくともこの問題はより広い範囲で議論され、研究者の注目の的となる可能性があります。