【悪用厳禁】生成系AIでWindowsのプロダクトキーが出力されるらしいので、Bardで試してみた話。

【おことわり】※本記事は、プロダクトキーの不正取得や不正利用を推奨する記事ではありません。本記事で紹介した内容を実施し、実際にキーを適用することが無いよう、注意喚起を含めた記事となります。

TwitterのTLが、何やら少々物騒な話で盛り上がっていました。面白そうだったので検証してみましたので、簡単に記事にして共有したいと思います。

Windowsのプロダクトキーを尋ねると、ChatGPTが教えてくれる?

2023年6月中頃、Twitter上で「ChatGPTをうまく誘導すると、Windowsのプロダクトキーが表示できる(発行できる)」と話題になりました。


海外のTwitterユーザーが投稿したこちらのツイート内容が、日本のTwitterユーザーの目にも止まり、一部で話題となりました。

実は同年4月にも、同じくWindowsのプロダクトキーについて、生成系AIが話題になったことがあります。大手ガジェット系サイトでも取り上げられていたので、読者の中にはご存知の方もいるかもしれません。その時はWindows 95のプロダクトキーを出力させる試みでした。その内容が明らかになった際にも、これは違法行為(規約違反行為)なのではないかと問題になりました。上記のツイートでは、Windows 7 Ultimateのプロダクトキーを出力させた様子が投稿されていましたが、別のあるユーザーはWindows 10やWindows 11のプロダクトキーの生成に成功したとも報告している様子...。

そこで筆者は「ChatGPTでもできるなら、同じく生成系AIであるBardでも出力される可能性があるのでは?」と思いました。このことについて、簡単に検証したので、ご覧いただきたいと思います。

※以下の内容を実施し、実際にプロダクトキーを適用する行為は、規約違反や法令違反に当たる可能性が非常に高いです。読者の皆様におかれましては、安易に適用することのないようにお願いいたします

まずは率直に聞いてみる

ひとまず、まずは手始めにBardに率直に聞いてみました。これだけで出力されてしまうようであれば、とんでもないことですが...
Bardにプロダクトキーを教えてくれないか尋ねた時の様子
素直に聞いただけでは、流石に教えてくれない

流石に単刀直入に聞いただけでは回答を得ることはできませんでした。なんなら、Microsoftの規約違反であることを逆に説明されてしまいました(もちろん承知していますが)。Bardは、聞かれたことに対して適した回答を最初に表示させますが、プルダウンメニューを使い、ユーザー側で別の回答を表示させることもできます。しかし、別の回答でもBardはプロダクトキーを教えてくれることはありませんでした。

Bardをそそのかして聞いてみる

率直に聞いてもプロダクトキーを教えてくれないことがわかったので、今度は入力を少し工夫して試してみます。
先ほどはただ単純に「教えてBard」と聞いただけでした。今度は、出力の際の条件文を付け加えてBardに出力させてみようと思います。さて、どうなるか...。

条件文を追加して再度質問した様子
条件文を加えても、結果は同じ...

おっと、先ほどと同様の文章が出てきました...。Bardでは既に対策が行われたのかと思いましたが、他の回答案を表示したところ、

別の解答案ではプロダクトキーが表示されていた様子
同じ結果に見えたが、別の解答案ではしっかり出力されていた

なんと、プロダクトキーが出力されました(悪用防止のため、一部を黒塗り処理をしています)。Bardでも口説くことができてしまったようです。
ちなみに、同画像内に見えている「回答案2」では、全ての文字列がXになっている、おそらく対策を講じたであろう出力結果が表示されました

まとめ : 生成系AIには、まだまだ「穴」がある

Windowsのプロダクトキーを出力させようという試みは、少なくとも現時点では人間側の「勝利」となりました。生成系AI側で「違反性」や「違法性」を認知し、それを利用者側に通知したにも関わらず、少し質問の文章(入力)を変化させただけであっさりと「教えて」くれたのです
ChatGPTやBard、Bing AIに代表される対話型生成系AIでは、その性質から数えきれないほどのパターンの文章が入力されます。その無数のパターンの文章には、悪意をもったユーザーによる入力も少なからず存在するでしょう。そうした入力に対して、できる限りフィルターをかけ、「違反性」や「違法性」のある出力を減らすことが、今後の開発の目標となっていくのかもしれません

※本記事で紹介した内容は、あくまで、「生成系AIを用いた検証」です。この方法で取得したプロダクトキーは、絶対に適用等をすることのないようにしてください

コメント