昨今、ChatGPTをはじめとする生成AIの台頭により、AIの社会実装に関する議論が活発化しています。その中で、AIガバナンスという観点から、適切なリスク管理と価値の最大化を目指す取り組みが注目を集めています。今回は、AIガバナンス協会（以下、「AIGA」）の任意団体設立期から活動を推進し、2024年10月の一般社団法人化に際して業務執行理事となった佐久間理事のインタビュー記事をお届けします。

‍

―― まず、AIGAの理念と役割についてお聞かせください。

AIGAは、「AIに関わるあらゆるステークホルダーが集まるフォーラムとして、適切なリスク管理を通じてAIの価値を最⼤化する取組である『AIガバナンス』があたりまえのものとして定着した社会の実現をめざします。」というミッションステートメントを掲げ活動しています。ポイントは大きく2つあります。

1つ目は、多様なステークホルダーが集まるフォーラムという点です。AI領域は技術変化が激しく予見可能性が低い世界であり、様々な主体から見えるAIの影響も異なります。AIガバナンスを実装する際には個社や業界単位での取り組みも重要ですが、できるだけ多くの知恵を集め、様々な立場からの意見を集約する場も必要になると考え、団体として活動しています。

2つ目は、AIガバナンスの定義に関わる部分です。ガバナンスというと守りの印象を受けがちですが、「AIを活用するため」「AIを使い尽くすため」にこそガバナンスが必要だと考えています。私たちはこれを『攻めのAIガバナンス』などと呼んでいます。人口減少、少子高齢化など様々な課題がある中で、AIの活用は社会に大きなメリットをもたらします。むしろ、AIを使わないという決定もまた、1つのリスクとなる時代です。AIを活用したイノベーションを後押ししつつ、負の影響とどのように向き合っているか、という視点で活動しています。

‍

―― 佐久間さんご自身のバックグラウンドについてお聞かせください。

私は新卒で経済産業省に入省し、AIやデータに関する制度整備を行う情報経済課という部署で働いていました。2018年に入省したのですが、ちょうどその翌年は内閣府が『人間中心のAI社会原則』を策定した時期であり、AIガバナンスというテーマ自体が徐々に議論され始めていました。自分自身も、デジタルプラットフォーマーの規制など、デジタル技術と社会的価値の調整に関する仕事に携わっていました。

その後、コンサルティング会社を経て、高校の同級生であり、現在も理事を務める大柴さんが起業したRobust Intelligence社に入社しました。同社はAIのリスク管理を技術的なソリューションで行う会社で、そこでAIガバナンスという領域に本格的に関わるようになりました。

‍

―― いつ頃からAIに関心を持たれたのでしょうか。

大学時代、法学部に所属しながら社会学のゼミで科学技術社会学を学んでいました。当時は福島の原発事故の分析が盛んで、技術のリスクにどう向き合うかという問題に触れる機会が多くありました。その中で、新しい「社会問題」を生み出す可能性のある情報技術の急速な発達に興味を持ち、それが経済産業省の情報系部署を志望するきっかけにもなりました。

―― 学部、経済産業省での経験を経て、現在は大学院でもAIに関する研究を続けていらっしゃると伺いました。

社会学の視点から、AIリスクの研究を行っています。特に『リスク社会学』という分野で、原発や遺伝子組み換え、環境問題など、技術発達に付随して発生するリスクを扱う学問です。

私の研究テーマは、AIのリスクが持つ様々な性質の分類と、それぞれに対する人々の責任の考え方です。例えば、ハルシネーションのような一義的には利用者自身が注意すべきリスクもあれば、著作権侵害のようにAIを使用していないクリエイターにも影響が及ぶリスクもあります。このように、リスクの性質によって責任の所在の捉え方が変わってくるのです。

‍

―― そのような経験を活かして、AIGAの設立に関わられたのですね。

大柴さんとの議論の中で、日本でAIガバナンスやリスク管理を適切に浸透させなければ、AI活用自体が遅れてしまうという問題意識を共有していました。Robust Intelligenceとしても自民党で『攻めのAIガバナンス』を提言する中で、AIリスク管理の新しいエコシステムを確立する必要性を強く感じ、AIGAの設立に至りました。

‍

―― 協会設立の具体的な経緯をお聞かせください。

大きく2つの流れがありました。1つは経営層の皆様からの声です。私たちがRobust Intelligenceとして様々な企業とビジネスを行う中で、業界横断で議論すべき課題が見えてきました。例えば、どの程度リスクを低減すれば世の中にサービスを出していいのか、といった判断基準は、個社のポリシーだけから決められるものではありません。

もう1つは実務家側からの流れです。当時、私が立ち上げたAIガバナンスの勉強会があり、そこには現在WGメンバー等の形でAIGAの活動にも中心的に関わっていただいている企業の実務担当者や弁護士、中央省庁の方々にご参加いただいていました。組織作りから技術的なデータフォーマットの方法に至るまで様々な議論を重ねる中で、そのような現場の実践知を起点に社会的な議論を広げていく必要性を感じました。

‍

―― 現在の会員企業数と、主な課題感について教えてください。

現在約80社の会員企業が参加しており、業界も金融、通信、製造、インフラと多岐にわたります。AIのサプライチェーンで見ても、基盤モデルの開発者（Microsoft、Google、AWSなど）から、サービス提供者、エンドユーザーまで、様々なレイヤーの企業が参加しています。

課題は立場によって異なります。たとえば開発者・サービス提供者に近い企業は、AIガバナンスにおけるバリューチェーン上の役割分担の明確化や政策提言への関与を重視してご参加いただいています。一方、利用者層など活用がアーリーステージの企業は、AIガバナンスの具体的なベストプラクティスの把握や、業界内での相場感の把握に関心を持っています。

‍

―― AIガバナンスに対する考え方をお聞かせください。

AIガバナンスを考える上で重要なのは、社会においてAIが引き起こす問題が単なる「損害」「危険」としてではなく、「リスク」として捉えられているということです。例えば地震は多くの人にとって、外から突如降りかかってくる「危険」ですが、AIの「リスク」と呼ばれる損害は、私たちがAIを活用するという決定をすることによって初めて生じる問題です。つまり、私たちがどのように意思決定をして、どのようなリスクテイクをしていくべきか、と自覚的に問うことが非常に重要になってきます。

社会課題の解決や生産性向上のためにAIを使う必要がある中で、どのようなリスクなら人々に受け入れられるのか。それを一から考えていく必要があります。特に日本は比較的リスク選好度が低い傾向にありますが、そこをどうバランスを取っていくかを今議論しないと、AIの活用の波に置いていかれてしまう可能性があります。

‍

―― AIガバナンスを取り巻く環境は、どのように変化していますか？

大きな変化は生成AIの登場により、AIのリスクの性質が変わってきたことです。例えば以前は、企業がAIを使って予測を誤り損失を出すといった、使用企業の自己責任の範囲内で収まる問題が多かったと思います。

しかし、生成AIの普及も含めて活用シーンや入出力の幅が多様化することで、誤情報の拡散や著作権侵害の問題など、AIを直接使用していない人々にも影響が及ぶ可能性が高まってきました。そのような人々にとって、AIのもたらす悪影響は一方的に押し付けられた「危険」として経験されてしまいます。つまり、個別企業の責任だけでは収まらない、より大きな社会的な問題が発生する可能性が高まっています。だからこそ、「リスク」として何かを決定する側は、どのような価値を優先して、どのような手法で対処していくのかをより深く考え、対外的にコミュニケーションしなければいけません。

たとえばAIにおける公平性の確保、という課題一つとっても、様々な解釈や実装方法があります。サービス思想として結果の平等を重視するのか、機会の平等を重視するのか。また、決めた要件を技術的にどう実装するのか。さらには、それを一般の人々にどう説明するのか。このような「翻訳作業」が、各レイヤーで必要になってきています。

‍

―― 最後に、今後の展望についてお聞かせください。

先ほどもお話した通り、生成AI時代においては、AIを直接使用していない人々にも影響が及ぶ可能性があり、個別企業の自己責任では収まらない問題が増えています。どのようなリスク管理が社会的に受容可能なのか、それを様々な視点で議論し、発信していく必要があります。

私自身、まだ29歳ですが、AIリスクの領域では技術と人文社会科学を横断するような人材がまだまだ少ないと感じています。様々な分野間の「翻訳作業」が必要な時代だからこそ、このようなキャリアを選ぶ人が増えてくれることも期待していますし、そのためにもより幅広い企業や有識者、スタッフの方に議論に参加いただけるよう努力していきたいと思っています。

またAIGAとしては、外部の団体などとの連携を通じ、より広い社会との接点も増やしていく予定です。ぜひ会員以外にも、様々な形で私たちの議論に参加いただける方を探して行けたらと思っています。

―― 協会に興味を持つ企業や組織へのメッセージをお願いします。

私たちAIGAのひとつの強みは、マルチステークホルダーアプローチにあります。現在、会員企業の中にはAIの利用をこれから始めようという企業から、先進的な取り組みを行う企業まで、様々なステージの企業が参加しています。ときには、まだアーリーステージの企業からの素朴な疑問から重要な議論が生まれることもあります。このため、「まだAIについての知識・取組が十分でない」といった懸念は不要です。むしろ、様々な視点や課題意識を持つ企業の皆様に、このフォーラムへの参加をぜひご検討いただければと思います。