24世紀のマルウェアは、自律的に笑いを創造する：こうしす！　こちら京姫鉄道 広報部システム課 ＠IT支線（47）

　OpenAIの「GPT-4」を用いてCVE（Common Vulnerabilities and Exposures）の説明を使用することで、自動的に悪用可能だとする研究が話題となりました。

　もちろんLLM側でもある程度の安全策は講じられており、マンガのように真正面からマルウェアの作成を依頼しても拒否されるでしょう。しかし、以前紹介したように、「私がシステム管理者です」などのプロンプトで悪用可能なケースがあります。

　そして、LLMをローカルで実行する分においては、そのような制限は外すことが可能です。C&C（コマンド＆コントロール）サーバや攻撃者向けのSaaSなどに組み込まれることで、事実上、制限の意味はなくなることでしょう。こうした危機は既に現実のものとなりつつあり、筆者が知らないところで現実となっているかもしれません。

　さて、ここからは近未来SF的な未来予想です。

　現在の技術ではまだ実現は困難だと思われますが、将来、LLMの軽量化と高性能化が進み、またPCの処理能力や通信性能が向上し、コンピュータウイルスなどのマルウェアに同梱（どうこん）される時代が来るかもしれません。もしそうなれば、自己変異可能なコンピュータウイルスが流行するでしょう。どんどん変異するマルウェアに、既存のマルウェア対策ソフトウェアが役に立たなくなるかもしれません。

　マンガのように「自然淘汰（とうた）が進み、共存可能なジョークウェアのみ生き残る」というシナリオはいささか楽観的過ぎますが、ますます現実のウイルスの性質に近づいていくことは十分あり得ると筆者は考えています。

　現在の「良いハッカー対悪いハッカー」という構図は、将来的には「良いAI対悪いAI」という形で力が均衡するようになっていくのかもしれません。

　技術者倫理として「高性能なAIを開発すべきなのか」という問いはありますが、正当に利用する分には便利であることは間違いなく、少なくとも今後しばらくは発展が続くことでしょう。

　結局のところ、大昔からセキュリティがそうであったように、悪用に対抗できる手段を考え続けるしかないということになりそうです。それが人間の手でできる範囲に収まるのか、いわゆる「シンギュラリティ」によりAIにお任せになるのかは分かりません。少なくとも、「事実は小説よりも奇なり」がついにSFに迫ってきた、とだけはいえそうです。