日経ビジネスに「AI時代には、日本の完璧主義が『両刃の剣』になる」という記事があったので調べてみました。米国とドイツで7社のテック企業を立ち上げ、独通信大手ドイツテレコムのCTO（最高技術責任者）なども務めたトーマス・エイダン・カレン氏へのインタビューです。
 
AIを入れてはみたけれど、使い道が議事録の要約や調べものどまり。そんな話、まわりでもよく聞きませんか。では思い切って業務の真ん中に据えればいいのかというと、今度は顧客データの扱いが気になって手が止まる。この「進めたいけれど踏み切れない」状態に対して、カレン氏が挙げた第一の助言は、意外にも「慎重であれ」でした。ただし、慎重であることと、避けることは違う。そこがこの記事の肝になっています。
 
なかでも耳が痛かったのが、日本の完璧主義についての指摘です。ものづくりで積み上げてきた強みが、AIやソフトウエアの世界ではブレーキになるというのです。今回はこのインタビューを手がかりに、AIと仕事の関係、そして導入の前に決めておくべきことを整理してみます。
 

• 1. AIは仕事を奪うのか？ 「消える」より「中身が変わる」
• 2. 「青いバナナ」とは？ AIベンダーの説明を額面通りに受け取らない
• 3. 日本の完璧主義が「両刃の剣」になる理由
  • 　「完璧はスピードの敵」になる場面
  • 　どこまでを「許容できる不完全さ」とするか
• 4. 知能インフラとは？ AI導入の前に整える6つの土台
• 5. 本人確認から信頼へ　責任の所在をはっきりさせる

1. AIは仕事を奪うのか？ 「消える」より「中身が変わる」

 
まずは、多くの方が気にしている雇用の話から。
 
カレン氏は、AIには感情も身体的な経験もないため、人間とまったく同じ創造性を持つわけではないと言います。ただし文章、音楽、画像を生成できる以上、コンテンツを生み出すクリエイティブ産業には大きな不安がある、とも。
 
では、プログラマーは不要になるのか。カレン氏はこれを「単純に考えるのは誤り」と退けます。理由がなかなか鋭いのです。
 
コード生成AIは、人間が過去に書いた大量のソフトウエアから学んでいます。そして生成されたコードには誤りがある。だからレビューやテスト、設計意図の確認が必要になる。ここからが本題で、AIを使えば大量のコードが短時間で出てきますが、生成量が10倍になれば、当然レビューすべき量も大幅に増えるわけです。
 
・仕事が減るのではなく、仕事の重心が移動する
・「自分で書く」から「機械に書かせて、そのコードに問題がないか検証する」へ
・良いコードをAIに書かせるには、何を・どんな構造で・どのツールや手法で作るかを具体的に指示できる知識が必要
 
「AIモデルを作って」と曖昧に頼めば、AIは誤った方向へ進む可能性がある。カレン氏のこの指摘は、コードに限らず、日々の業務でAIに指示を出すときにそのまま当てはまりますよね。指示する側に土台の知識がなければ、出てきたものが正しいかどうかも判断できません。
 
ちなみにカレン氏は、AIが作ったコードをレビューする作業そのものが、若手が設計や実装のスキルを学ぶ入り口になり得る、とも述べています。AIの仕事ぶりを見ながら学ぶ、というわけです。
 
肉体労働の一部はロボットに置き換わるでしょうが、ロボットの保守という新しい仕事も生まれます。印刷機もコピー機もクラウドサービスも、既存の仕事を変えながら新しい職種を生んできました。すでにプロンプトエンジニアのように、以前は存在しなかった職種が出てきています。
 
そして新技術が企業と社会に実装されるまでには時間がかかるが、最終的には定着する——このあたりは、電力業界にいると実感のある話です。新しい仕組みが現場に根づくまでには、やはり数年単位の時間がかかります。
 

2. 「青いバナナ」とは？ AIベンダーの説明を額面通りに受け取らない

 
この記事でいちばん印象に残ったのが、この表現でした。
 
カレン氏によれば、米国企業には「まだ熟していない青いバナナ」でも、すぐ食べられるかのように売る文化がある。日本企業とは前提が違うことを理解すべきだ、というのです。
 
背景にあるのは、日本の「相手の誠実さを信じる文化」への指摘です。落とした財布が現金の入ったまま警察に届く。世界的に見ればこれは非常に珍しい、とカレン氏は言います。それ自体はすばらしい文化なのですが、AIサービスの提供者を同じ前提で信じるのは危険だ、と続きます。
 
理由は明快で、AIは非決定論的な技術だからです。同じ問いかけに対して毎回まったく同じ答えが返るとは限らない。提供する企業も結果を100％保証できない。それでも販売のためには強気な約束をすることがある。だから購入者や利用者は、AIを提供する企業の説明や宣伝を、すべて額面通りに受け取ってはいけない——という話です。
 
営業資料のデモがきれいに動いたからといって、自社の現場データでも同じように動くとは限らない。当たり前のようでいて、うっかり忘れてしまいがちなところです。導入を検討するときは、自社の実データで、自社の担当者が試す。この一手間を惜しまないほうが、結果的に近道になりそうです。
 
もうひとつ、カレン氏は日本社会の謙虚さについても触れています。自分を「東京で一番のプログラマーだ」と声高に売り込む人は多くない。それは長所である一方、日本の科学者や技術者が自らの成果を世界に説明し、産業界から信頼と資金を得ることを妨げる場合がある。海外の人物の肩書やイメージを、国内の優れた研究者以上に無意識に評価してしまうこともある、と。
 
売り込みのうまさと、中身の確かさは別物。買う側も、そこを分けて見る目が要るということでしょう。
 

3. 日本の完璧主義が「両刃の剣」になる理由

 
記事のタイトルにもなっている、核心部分です。
 
 

　「完璧はスピードの敵」になる場面

職人が一つの仕事を極める文化は、大きな価値を持つ。カレン氏はまずそう認めたうえで、しかしAIやソフトウエアを市場に出す際には「完璧はスピードの敵」になる、と指摘します。
 
完全なAIモデルは存在しない。だから市場で試し、誤りを直しながら改善する仕組みが必要になる。ここで怖いのは、投資を増やしても開発が速くなるとは限らず、完璧を追求するための余計な仕事が増えるだけかもしれない、という部分です。
 
人と予算を足したのに、社内レビューと差し戻しが増えただけで前に進まない。思い当たる場面がある方も多いのではないでしょうか。
 
 

　どこまでを「許容できる不完全さ」とするか

カレン氏が挙げた対比がわかりやすいので、そのまま紹介します。
 
自動車の塗装に小さな傷やむらがあれば、日本の顧客は返品を求めるかもしれない。しかし、AIが少し誤訳をしたからといって、あらゆる用途で無価値になるわけではない——。
 
AI翻訳には、文脈や意図を十分にくみ取れず逐語訳に近くなるといった限界があります。その限界を理解したうえで、用途に応じて人間が補えばいい。同じように、AIによる推論も、利用者の依頼に完全には沿わない回答を生成する可能性がある。
 
だからカレン氏は、何をどの段階で公開し、「どこまでを許容可能な不完全さとするか」というリリース戦略を、企業だけでなく国家レベルでも考える必要がある、と述べています。
 
そして重要なのは、不完全さを隠すことではなく、誰が作り、誰が公開し、誰が結果に責任を負うのかを明確にすること。この一文が、次の話につながっていきます。
 

4. 知能インフラとは？ AI導入の前に整える6つの土台

 
では、慎重でありながら前に進むには何が要るのか。カレン氏の答えが「知能インフラ」です。
 
その前に、なぜ慎重さが必要かという話も押さえておきましょう。カレン氏が例に挙げたのは、1990年代から加速したERP（統合基幹業務システム）の導入です。システムが想定通りに動かず、企業活動や出荷に重大な影響が生じ、訴訟に発展した例もありました。
 
AIの場合はどうか。外部のAIサービスに大量の顧客データの処理や管理を委ねた結果、サービス停止や契約変更、権限設定の問題などによって、ある日そのデータを利用できなくなる可能性がある。それが顧客との約束や法的義務に反していれば、深刻な問題になります。
 
こうしたリスクを軽くする考え方が「ソブリンAI」です。データやAIに対する主権を自国・自組織の側に保つ、という発想ですね。
 
そのうえでカレン氏は、必要なのはAIを避けることではなく、具体的な利用計画と安全な「知能インフラ」を同時に構築することだ、と言います。カレン氏が挙げた6つの要素に、中小企業ならどこから手をつけられそうか、筆者なりの補足を添えて整理しました。右端の列は記事中の記述ではなく、あくまで補足である点をご了承ください。
 

 
そして経営者には、次の3つを具体的に決めることが求められる、とカレン氏は言います。
 
・どの業務で、どのデータを使うのか
・誰が責任を負うのか
・どの成果を測るのか
 
裏を返せば、この3つが決まっていない状態で導入だけ進めると、冒頭に書いた「議事録どまり」になりやすい、ということでもあります。
（情熱電力の過去記事：実際に社内でAIを使いこなしている中小企業の事例は、こちらで紹介しています）
 

5. 本人確認から信頼へ　責任の所在をはっきりさせる

 
記事の締めくくりで、カレン氏はAI時代のガバナンスを1本の連鎖として説明しています。
 
まず本人確認によって、行為主体と責任主体を結び付ける。責任の所在が明確であることが、信頼を可能にする。信頼があれば、組織や個人は同じ成果を目指し、リスクを負って協力できる。そして多様な主体の協力があって初めて、実効性のあるソブリンAIを構築できる——という流れです。
 
AIで何かを作って公開した人物や組織が結果に責任を負うなら、他者はその主体を信頼しやすくなる。信頼があるからこそ共同作業が成立し、成果だけでなく失敗の結果も共有できる。ソブリンAIは単独の企業や政府だけでは完結せず、技術の提供者、利用する企業、規制当局、監査する人、研究者、市民の協力によって成立する。
 
だから本人確認と権限管理は、単なるログイン技術ではなく、社会の信頼と、データやAIに対する主権を支える基盤になる。カレン氏はそう結んでいます。
 
長野県で電力小売をしている私たちにとっても、これは他人事ではありません。電気の契約情報や使用量のデータは、お客さまの暮らしや事業の中身がかなり見えてしまう性質のものです。便利な道具が増えるほど、「このデータをどこまで、誰の責任で扱うのか」をはっきりさせておく必要がある。今回の記事を読んで、あらためてそう感じました。
（情熱電力の過去記事：電力の契約情報が本人確認に使われはじめた経緯は、こちらで詳しく整理しています）
 
完璧を目指して立ち止まるのでもなく、勢いだけで飛び込むのでもなく。責任の線を引いてから、小さく試す。AIとのつきあい方としては、これがいちばん現実的なのかもしれません。