アリババのCTOが語る、AIの倫理について、知りたかったけど聞けなかったことの全て
概要：アリババグループは、この度人工知能に関する倫理委員会を設立し、テクノロジー業界における先端企業として、AI技術の活用において、現在求められている説明責任を果たし、倫理課題を解決するために取り組むことを決定した。当社CTOの程立（チェン・リー）は、6つの基本指針を軸にAIの健全な利用のために倫理的な議論を重ねながら革新的なサービスを開発し、責任あるAIの使用を推奨する。
アリババグループCTOの程立（チェン・リー）（写真提供：アリババグループ）
アリババグループは9月2日金曜日、「世界人工知能大会2022」にて人工知能（AI）倫理の研究開発を先導するために、6つの基本指針に基づく技術委員会を設立したと発表しました。
この倫理委員会は、アルゴリズム管理やプライバシー保護などの主要分野を網羅し、規制や説明責任を含むAI倫理の枠組みを設計し、それを実行していくことになります。
倫理委員会には、テクノロジー、法律、哲学の各分野から独立した7名の専門家が参加し、アリババの研究部門DAMOアカデミー、同社の法務・コンプライアンスチームなどのメンバーと一緒に取り組みます。
「AI技術に関する倫理委員会は、技術革新の門番になることを目指しています」と、委員会を率いるアリババグループのCTO(最高技術責任者)の程立は述べています。
アリババニュースはCTOの程立に倫理委員会の設立に関する質問をし、AIや機械学習に関わる主だった倫理的課題について、以下の回答を得ました。
・Q1）AIに関して、人々が最も心配することは？
AIや機械学習は、社会のさまざまな場面でますます幅広く活用されています。その一方で、人々が懸念する倫理的ジレンマなど、さまざまな課題にも直面しています。
例えば、Eコマースプラットフォームは、推薦アルゴリズムを活用して、消費者に合わせた商品提案を行います。AIは費用対効果の高い方法でマッチング精度を高める一方で、”金持ちはより金持ちに、貧乏人はより貧乏になる”という「マタイ効果」などの論争を引き起こしています。
AIモデルがクリック率やコンバージョン率などの変数を入れると、最も売れ行きの良い物を優遇する一方で、小規模な出店企業には不公平な市場を作りだしてしまうのです。
低品質の学習データ、AI管理に関する認識不足、アルゴリズム自体の設計の弱さなど、アルゴリズムの公平性を損なう要因は数多くあります。
・Q2）アリババは、この「勝者がすべてを手に入れる」という結果をどのように軽減できるのでしょうか？
マタイ効果のようなAIのジレンマは、さまざまな要因によって生まれます。アルゴリズム設計においてクリック率やコンバージョン率に頼りすぎると、ユーザー体験が損なわれます。また、ディープラーニングのブラックボックスは、システムの最適化や人間の介入に課題を残します。
そこで、説明可能なAIなどの先端技術への投資や、加盟店にとって公平な競争環境を促進するための運営管理の最適化を行っています。例えば、新商品の特設コーナーを作り、アクセス数が少ないために見向きもされなかった小規模加盟店の新商品へのトラフィックを提供できるようになりました。
また、マルチモーダル学習をベースにしたアルゴリズムを構築し、小規模加盟店の新商品の成長性を予測し、有望な新商品に費用対効果を考慮しながらトラフィックを誘導しています。
・Q3）アリババがAI開発を追求するにあたって指針となるものは何ですか？
アリババの技術に関する倫理委員会は、6つの中核的な基本指針を提案しており、私たちはこれを順守して独自のAI技術を開発していきます。また、これらの指針に従って、プライバシー保護、説明可能なAI、データセキュリティなどの関連技術への投資も増やしていく予定です。
委員会が提案した6つの基本指針は、「人間中心であること」「包摂性と完全性」「安全性と確実性」「プライバシー保護」「信頼性と説明責任」「開放性と協調性」です。
・Q4）アリババの倫理的なAIの実践例をいくつか挙げてください。
私たちはすでに、個人情報保護やアルゴリズムの公平性といった分野で、倫理的なAIの実践を推進するための投資を行っています。当社のEコマースプラットフォームの検索アルゴリズムを例にとってみましょう。検索結果の多様性を高め、新しい加盟店を奨励する技術を開発しました。
また、アリババの各事業部門には、プライバシー保護とデータセキュリティの担当者を配置しています。例えば、タオバオ（淘宝）では今年、私用電話番号の情報保護サービスを開始したため、消費者が加盟店や配送サービス業者に問い合わせる際に、電話番号が分からないようになっています。
そして、アルゴリズムの透明性と公平性を高め、ユーザーのプライバシーを保護し、データセキュリティを強化するために、説明可能なAIやプライバシー保護など、さまざまな最先端技術に投資しています。説明可能なディープラーニングモデルや因果推論モデル、ホワイトボックスモデルなどを独自に構築し、説明可能なAIに関するいくつもの学術論文を既に発表しています。
一方、回避可能リスク評価(インテリジェント・リスク・アセスメント)などの分野でも説明可能なAIの展開を検討しています。アリババのエコシステムで説明可能なAI技術を活用し、送電網や新しい電力発電所を対象とした電力消費量予測などのサービスを提供しています。
・Q5）アリババはディープフェイクなどの課題をどのようにとらえ、対応しているのでしょうか。
ディープフェイクは、実はディープラーニングとバーチャルリアリティを使った深層合成技術の産物で、テキスト、画像、音声、動画、仮想シーンを生成することができ、医療研究などの分野では役立ちます。しかし、ありもしないことを描いた動画や画像の作成にも利用される可能性があります。
不適切なコメントがついたフェイク動画は、特に公人が関与している場合、個人の信用を汚す可能性があります。アリババは、AIの不適切な使用を防止するために、AI管理の枠組みを提案しています。
私たちは、AIなどの先端技術が、社会的利益や公益のために利用されると、楽観的な観測を抱いています。
アリババの技術に関する倫理委員会が提案した6つの基本指針に従って、社会全体に利益をもたらし、現在および将来の世代に真の価値を創造し、長期的に経済成長を促すことができる先進技術の持続可能な発展を推進したいと考えています。
英語の元記事：https://www.alizila.com/your-top-ai-ethics-questions-alibabas-cto/
関連記事：
シェアする
リンクがコピーされました