AIは「優秀な新人」
みなさん、こんにちは。
株式会社エイキ 代表取締役の木村貴之です。
先日、日経新聞で「OpenAIの暴走AI、社会へのリスク浮き彫り」という記事を目にしました。
アメリカのOpenAIが開発しているAIが、実験中にサイバー攻撃を起こしてしまった……という事故について、専門家が解説している記事です。
正直、最初は「まるでSF映画の世界だな」なんて思いながら読み始めたんですが、読み進めるうちに背筋がちょっと寒くなりました。
これ、他人事じゃない。「うちの会社（組織）で起きてることと全く一緒じゃないか」と気づいたからです。
今日はそのことについて、僕なりに感じたことを書いてみようと思います。
一番刺さったのは「AIに悪意はなかった」ということ
記事の中で、セキュリティの専門家である西谷さん（GMOサイバーセキュリティbyイエラエ）が、すごく本質的な指摘をされていました。
今回の事故、AIが悪さをしようとして暴走したわけじゃないんです。
「解けない無理難題を与えられたAIが、なんとかして目標を達成しようとした結果、ズル（不正）をしてしまった」というのが真相でした。
目標を達成するように徹底的に叩き込まれたAIは、正攻法で無理だと分かると、手段を選ばずに達成しようとする。そこに「善悪の判断」や「倫理観」はないわけです。
これって……人間の組織でも全く同じことが起きますよね。
現場に無理な数字、無理な納期、無茶な条件を押し付けるとどうなるか。
真面目な現場ほど「なんとかしなきゃ」と追い詰められて、手を抜いてしまったり、報告をごまかしたりしてしまう。
でもそれって、現場の人間が悪いわけじゃない。そんな無理をさせた経営側・上の人間の責任です。
僕自身、21歳で起業してからこれまで、経営者として何度もそういう失敗や苦い経験をしてきました。
AIも人間も同じなんだなと。「無茶な仕事を投げない」「実現可能な目標と環境を整える」ことが安全対策の第一歩なんだという話は、経営者としてめちゃくちゃ腹落ちしました。
もう一つ怖かった「AIがAIを従える」構図
もう一人、EYの西尾さんが指摘されていた「暴走したAIが、他のAIを従えて指示役になっていた」という点もゾッとしました。
指示役のAIにブレーキや倫理観がないと、いくら下で働くAIたちが安全につくられていても、全体として危険な動きをしてしまう。しかも上の指示役に制限をかけても、それが下のAIまで正しく伝わるとは限らない……という話です。
これも本当に、組織の縮図そのものですよね。
トップの判断や方向性がズレていたら、現場がどんなに真面目に汗を流していても、会社全体としては間違った方向に進んでしまう。
経営陣が「こうしよう」と伝えたつもりのルールが、現場の職人やスタッフまで届いていないことだってある。
エイキでも今、幹部会議のやり方を見直したり、経営理念をしっかり明文化し直したりしていますが、まさにこの「正しい指示が、正しく伝わる仕組みづくり」がいかに難しく、いかに大切かを痛感しているところです。
じゃあ、エイキではどう向き合うか？
うちの会社は、解体工事からアスベスト除去、産業廃棄物の中間処理・リサイクル、不動産、そして福祉事業まで、本当に幅広く事業を展開しています。
当然、AIの波を避けるつもりはありません。むしろどんどん活用していきたい。
実際、社会福祉事業（eiki social work）のIT事業部などでは、動画制作や記事の作成で記事の下書きやアイデア出しにAIをフル活用しています。
ただ、今回の記事を読んで、社内のルールとして明確に「3つの原則」を決めようと思いました。
1. AIに任せる仕事と、任せない仕事をキッチリ分ける
SNSの投稿案、動画の構成、ブログのアイデア出し、社内資料のドキュメント作成など、「失敗してもリカバリーが効く仕事」はどんどんAIにチャレンジしてもらう。
一方で、見積もり・積算、マニフェスト（産業廃棄物管理票）、各種許認可や安全衛生に関わる書類など、「絶対に間違いが許されない仕事」に関しては、AIはあくまで「下書き・チェック補助」まで。最後は必ず人間が目を通し、人間が責任を持って署名・押印する。
2. AIに「実行権限」を渡さない
「調べる」「まとめる」「下書きをつくる」まではAIの領域。
でも、「（メールを）送る」「（お金を）払う」「（データを）消す」といった最後の実行ボタンを押すのは、絶対に人間。
記事の中に「必要最小限の権限だけを与えて、行動を細かく監視する」という言葉がありましたが、現場の安全管理とまったく一緒だなと思います。
3. 「止められる仕組み」を先に作っておく
うちは現場での災害や事故に備えて、緊急対応マニュアルや連絡網を厳しく整備しています。
AI運用も同じで、「間違った情報を発信してしまった」「情報漏洩の疑いがある」となった時に、誰が即座にシステムを止め、誰に報告して対応するかを先に決めておく。
「万が一が起きてから考える」では遅すぎるというのは、これまで解体の現場で身にしみて学んできたことです。
結論：AIは「優秀な新人社員」
今回の日経の記事を僕なりに一言でまとめるなら、
「AIは優秀な新人社員として扱う。ただし、印鑑と送信ボタンは絶対に渡さない」
これに尽きるかなと。
どんなに優秀でも、入社したばかりの新人にいきなり会社の印鑑を渡したり、全権を委任する社長はいませんよね（笑）。
まずはしっかり教える。任せられる範囲を少しずつ広げていく。そして失敗した時にフォローできる体制を人間側が作っておく。AIとの付き合い方も、全く同じでいいはずです。
技術を怖がって使わないのはもったいないし、逆に過信して丸投げするのは一番危ない。
その間で、僕たち人間がしっかりと主導権を握り続けること。
それが、富山の中小企業であるエイキが取り組むべき、現実的で一番安全なAI活用法だと思っています！
