みやこ
	2026/06/06 21:57[web全体で公開]

🤔 生成AIの危険性について2
以前にも日記として書いたのですが、もう少しまとめようかと思います。


〇生成AIの仕組み
生成AIは、LLM(大規模言語モデル)に基づいています。これは特定の単語に紐づいて、質問に答えるという仕組みです。生成”AI”と言われていますが、思考すらしていないので、人工知能ですらないのです。


〇根本的な大問題
生成AIの企業は、LLMにデータを集めるために、犯罪を犯しました。
一つ目は著作権侵害。二つ目は個人情報を勝手に抜き取ったことです。
画像、動画、音楽、文章...あらゆるデータを無差別に盗んでいったのです。犯罪事件の被害者の画像すらデータとして取り込んだり、海賊版サイトと取引をするなど、その手口はあまりにも悪辣でした。
そして、現在でも無断で、個人や企業のデータが流通し、盗まれています。何億という世界中のデータがテック企業に盗まれているのは、かなり問題です。


〇多くの問題
その他にも、多くの問題を抱えています。

・生成AIを相談相手にした結果、自殺したり、犯罪を促されたりなどの事件を引き起こしています。

・LLMの仕組みにおいて、生成AIの解答するものは正しくありません。生成AIに判断させた結果、毒キノコを食べ死亡した事件もあります。

・精巧なフェイク画像や動画は、情報の印象操作、デマ、ポルノ被害などを引き起こしています。

・生成AIを利用した企業が従業員を大勢解雇しており、大量失業者や後継者がいなくなる可能性も高いです。

・環境破壊も深刻です。データセンターの設立により、地球の気温が4度引きあがる可能性、電子機器や水、電力など資源の大量消費があります。これらの負債は、我々一般人が確実に背負われてしまうでしょう。

日本でも反対する人はいますが、政治的な理由のせいで問題の周知がされていません。
EUはすでに規制を強める方針で規約を制定していきます。海外では、生成AIはかなり批判的なものとなっています。


〇生成AIの対策
こういった生成AIの対策はいくつかあります。

第一として、生成AIを利用しないこと。X(Twitter)やGoogle ChromeはGenemiという生成AIが組み込まれています。X(Twitter)は規約で「あなたのデータをGenemiに食わせるけどいいよね」みたいなことが書かれており、被害を訴えても無視される可能性が高いです。生成AIを利用するだけで、個人情報はどんどん盗まれていきます。生成AIに加担する企業のサービスは利用しないこと。まずこの意識が大事です。

第二に、自分の著作物を扱う際は、規約を記載したり、ウォーターマークを必ずつけましょう。AI対策の方法がいくつかあるので、それらも有効です。


〇最後に
TRPGのセッションに生成AIを利用している方もいるかもしれませんが、こういった問題があることを知ってほしいです。私は、生成AIの問題を深刻に受け止めています。これだけの犯罪を前提とした生成AIを肯定することはできません。