日本最大の通信会社と国内最大の新聞社は、AIを野放しにすれば民主主義と社会秩序が崩壊する恐れがあるとして、生成型AIを抑制するための迅速な立法を求めた。日本企業のマニフェストは、生産性向上における生成型AIの潜在的な利点を指摘しながらも、この技術に対しては概ね懐疑的な見方を示した。具体的な内容は示さなかったが、AIツールはモラルや正確さを無視してユーザーの注意を引くように設計されていることがあるため、すでに人間の尊厳を傷つけ始めていると述べた。AIが抑制されなければ、「最悪の場合、民主主義と社会秩序が崩壊し、戦争につながる恐れがある」とマニフェストは述べた。日本は、生成型AIの悪用から選挙や国家安全保障を守る法律を含む対策を直ちに講じるべきだと述べた。欧州連合(EU)を先頭に、AIを規制する世界的な動きが進んでいる。EUの新法は、最も強力なAIモデルのメーカーに対し、安全性評価を実施し、重大なインシデントを規制当局に通知するよう求めている。また、学校や職場での感情認識AIの使用も禁止する予定だ。バイデン政権も監視を強化しており、昨年10月には連邦政府の緊急権限を発動して、国家安全保障に重大なリスクをもたらすシステムを開発している大手AI企業に対し、政府への通知を義務付けた。米国、英国、日本はそれぞれ、AIガイドラインの策定を支援する政府主導のAI安全研究所を設立している。それでも、民主主義国家の政府は、憲法などで言論の自由が保護されていることを踏まえ、ソーシャルメディアの活動などAIを活用した発言をどう規制するかに苦慮している。NTTと読売は、マニフェストは公共の言論に対する懸念が動機だと述べた。この2社は、日本で最も政策に影響力のある企業の1つだ。政府は、かつて国営の電話独占企業だったNTTの約3分の1を今も所有している。業界統計によると朝刊の発行部数が約600万部の読売新聞は、日本で最も広く読まれている新聞だ。故安倍晋三首相とその後継者の下で、同紙の保守的な論説は、与党自民党に軍事費の拡大と米国との同盟関係の強化を迫る上で影響力を及ぼしてきた。両社は、幹部らが昨年から慶応大学の研究者らが主導する研究グループで生成型AIの影響を調査してきたと述べた。