学校現場における生成AIの利用に関するガイドラインの策定にあたり、
児童を守るため、学校現場での生成AIの利用を禁止にしてください。

（Please click here for a full English translation of this petition explanatory text)
Petition statement: 'To protect children, please ban the use of generative AI in school settings'(Google docs) 

※この署名は文部科学大臣、文化庁、文部科学省および各省庁への要望提出の際に使用いたします。

　概要
現在文部科学省にて学校現場への生成AI導入に向けてのガイドライン策定が進められています。
生成AIはEUのA.I.actで顔認証の使用の規制や子供達への使用の危険視が議論されており、
アメリカでは各行政機関から危険性の指摘がされ、複数の権利侵害を訴える訴訟が起きています。各国でも現在規制が進められています。
日本はその真逆で推進されており、様々な場面で積極的な導入が進められている状況です。
この署名は、学校現場への生成AIの導入を止めて欲しいと訴えるための署名です。

 

『生成AIの問題について』の解説と訴えの内容

先日行われたG7教育大臣会合にて採択された富山・金沢共同宣言を受け、夏までに教育現場での生成AI使用に関する方針を策定するという発表がなされました。

当署名は、主にそのガイドライン策定に対するものであり、同時に世界的に深刻な問題を引き起こしている生成AIの対策を求めるものです。

 

　　１．生成AIの実態について

魅力ある画像や音楽を次々と吐き出し、人間の指導をも可能だとされるAIは夢を感じさせるものですが、今起きている実態を理解すればそれは錯覚だとすぐに分かります。

• 生成AIに使われるデータセット

ドイツに在するLAION社の提供するデータセットは、学術目的のみ使用が許されるもので商用利用、企業による利用などが禁じられており、これは所在地であるドイツとEUの著作権法にも該当する部分なのですが、現在世界中に配布され使用されている生成AIの多くにこのLAION社のデータセットが搭載されています。

つまり生成AIはドイツ連邦著作権法とEU著作権指令に違反するプログラムであり、既に公にその指摘がなされており、ベルヌ条約に批准する日本は批准国と同等以上の保護をする義務が生じることから違法性に留意しなくてはなりません。

• ディープフェイク

そしてこのデータセットを元に生成AIで作られるのがディープフェイクであり、
アメリカの前大統領が逮捕される映像やアメリカの西海岸の架空の震災の映像、記憶に新しいのはアメリカ国防総省が攻撃を受けていることを示す画像が大規模に拡散され、アメリカの
ダウ平均株価は一時約80ポイントの下落、S&P500も一時的に0.15%まで下がりました。

生成AIが今大規模な国家間の衝突の起きている地域に浸透しているのは言うまでもなく、核戦略への影響を引き起こすことも指摘されています。

生成AIが既に一線を超えたものであることをお分かりいただけると思います。

• 著作物の無断利用と改変

現在日本国内で特に取り沙汰されるAIの悪用は、著作物の無断複製と無許可の商用利用ですが、生成AIのディープフェイク作成の技術によって行われるものです。
音声、音楽、報道写真、文章等の改変、偽造、なりすまし等で「AIが使用された事件」とは、生成AIが用いられた事を意味しており、生成AIの改変と合成技術の汎用性の高さを同時に示すものです。

日本国内では著作物の無許可のデータセット化と生成物の公開そして売買が盛んに行われております。
著作者が望まず許可も出してない無断二次利用であり、AI利用者は「著作権法三十条の四で『解析』が認められているから合法だ」という曲解を唱えて正当化を図り、今日本の創作文化は狙い撃ちにされています。
海外からは、日本の作品のファンやクリエイターに対する同情の声が挙がると共に、米国議会下院における公聴会でも日本の著作権概念、著作権法に対する疑問の声が上がっています。

こうした中で自殺や自殺未遂の情報も次々に挙がっているのですが、政治や行政が実態の把握と適切な対応をしているとはいえない状態です。

その他に挙げられる問題は、ネット上に公開されている50億枚以上の画像がデータセットに利用されていることから行方不明の児童の公開されている写真などもデータセットに含まれている可能性もあります。実在人物を貶めるための偽造写真の公開、偽の災害映像、ディープフェイクを用いた人種差別の助長の懸念など、誇張無く際限がありません。

これが生成AIの利用と社会上のAIに対する理解が引き起こしている問題の実態です。

 

　　2.学校現場での生成AIの利用について

これは子供達の情報をデータセットとして生成AIに取り込む必要があるということを意味しています。

成績、音声、表情、文章、その他様々な情報を生成AIの調整つまり学習データとして搭載する必要がありAI開発会社に子供達の膨大な情報を引き渡すことになります。
子供達の表情や音声や筆跡や文体、成績や身体の記録等も全てが対象です。
ちなみにEUでは、子供に対する指示また教育へのAIの利用は高レベルのリスクと見なされており、またAIに関する議論が活発化を促した理由の一つに、監視AIに人間の顔を認識させるための学習に対する問題視があります。

授業中の教師の補助として利用されるのであれば、児童の表情や音声を認識し教師に情報を生成して提示することを意味するものであり、
苦手な教科や進路相談などに対する生成AIのアドバイスとは、膨大な児童の成績や進路の情報を生成して伝えることを意味しています。

人間の学習とAIの学習は同じという誤解がありますが、
この違いを簡単に説明するなら、人は「学習」の定義に自身の経験を重ね合わせながら、社会に出るまでに必要なものであるという意義を含めた理解を構成させていくものといえます。
AIにこの一文を入れただけでは同じ文章しか出力できません。
膨大な文章を入力し、人が見て納得できるような情報が出力されるまで調整を行う必要があります。つまり理解しているのではなく出力物の傾向を調整するのです。この調整が学習AIの『学習』です。

『学校現場での生成AI利用』とは、AIが児童を見て指導しているのではなく膨大な他の児童の記録の改変物を提示するものだということです。

全児童の情報はずっと改変されて他の児童に提示され続けます。教育現場での児童は常に改変物生成のため情報を日々記録され続けることになります。
そして子供達は卒業し社会に出た後もずっと『自分の情報が改変され誰かに見せられている』という思いをし続けます。
こうした実質を鑑みれば、生成AIを学校現場に取り入れるかの議論は、指導に見紛う改変情報を現場に取り入れるかどうかの話であるとご理解いただけるはずです。

どちらかと言えば、AIの危険性や正確な定義等の指導こそ教育現場における「生成AIの適切な扱い方」ではないでしょうか。

 

• 日本のAI推進の動きについて

現在、生成AIの利用は日本国内で大きく推奨されています。一方で、EU、アメリカを含む諸国が生成AIの危険性の検証と規制の動きが進められています。

日本において生成AIを推進する政治家を含む多くの人々には、違法となる児童の画像等が含まれるデータセットから画像を生成して公開と活発に行われている売買に歯止めをかけようとする動きは見られません。むしろ世界と比較し日本の規制の緩さを売りにしてAI産業を盛り上げようとする動きが見られます。

そのような動きに、子供達の個人情報を改変可能なデータとして引き渡す大人などどこにいるのでしょうか。

 

　　３．最後に

世界的に生成AIの危険性が指摘されゆく中で、我が国が世界に示した方針はそれとは真逆を向いたものです。
もはや文部科学大臣と文化庁、文部科学省に子供達のあらゆるものが今委ねられたといっても過言ではありません。

思い起こされるのは革命の時代のある役人の言葉です。
大勢の人々を処刑していく中で明らかに咎める所などない子供が引き出され、逡巡しながらもその子は処刑されました。役人の深い悔恨の言葉が遺されています。

皆様方は今、この役人と同じ立場に置かれているのではないでしょうか。
危険な技術とその危険性を知りながらも推奨する大人達の手が、子供達に触れようとするその寸前で立ちはだかる門番のように見えて仕方ありません。

教育現場での生成AIの使用禁止の求めとは、法律の曲解をひたすら繰り返して広めながら「AIの活用」という言葉で取り入ろうとする大人達の動きから子供達を守っていただきたいということです。
もし日本が権利面も倫理面もクリアなAI開発と利用を目指し、世界中に悪用による苦しみや恐怖が世界中に広がる中で危険性と被害者に向き合っていたのなら、これは全く違った話でした。
そのような努力をする大人の姿こそ子供達に示すべきものであったことでしょう。

皆様が国内外の政治的影響を受けながら公のために努める大変な立場にあるのは誰もが承知するところです。
この訴えが憲法十二条の国民の人権を維持する不断の努力に基づく求めであることにご理解いただき、
そして国家公務員法九十六条に基づいて、いずれ社会を担う子供達とこれからの公共の利益を守るためにこの訴えを取り入れていただきますよう心よりお願い申し上げます。

どうか児童を守るため、学校現場での生成AIの利用を禁止にしてください。

 

なお、この問題に際し、「公開や商用利用は『解析』に含まれない」などの国民への法律理解のアナウンス、またより一層の各省庁との合議、事実確認等も行政と国民の協力作業と捉えて行っていただきたく併せてお願いいたします。