デジタルプラットフォームの管理

デジタルプラットフォームの管理 - アルゴリズム管理を中心に B-frontier 研究所 高橋 浩

自己紹介 - B-frontier研究所代表 高橋浩 • 略歴： • 元富士通 • 元宮城大学教授 • 元北陸先端科学技術大学院大学 非常勤講師 • 資格：博士(学術)(経営工学) • 趣味/関心： • 温泉巡り • 英語論文の翻訳 • それらに考察を加えて情報公開 • 主旨：“ビジネス(B)の未開拓地を研究する” 著書： 「デジタル融合市場」 ダイヤモンド社(2000),等 • SNS： hiroshi.takahashi.9693（facebook) ＠httakaha（Twitter）

目的 • デジタルプラットフォームを独自の組織形態と見做す傾向が強 まっている。 • このデジタルプラットフォームを支えているのがアルゴリズム である。 • 最近、新たなアルゴリズムが登場した。 • Chat GPTである。 • Chat GPTは活用法が話題になっているだけでなく人間の仕事を奪う のではないかとの不安も掻き立てている。 • しかし現実には、AIが人間の仕事を代替 or 人間を部下として コントロールする形態は、どんどん進んでいる。 • この仕組みの核にアルゴリズム管理が存在する。 • そこで、本稿は、これがどのような仕組みなのかを理解し、そ こから、今後の“仕事の未来”を予見することを目的とする。 3

目次 1. 2. 3. 4. 5. はじめに インセンティブとコントロール アルゴリズム管理 - Uberを例に ガバナンスモードとガバナンスメカニズム デジタルプラットフォーム管理の今後 4

１．はじめに 最近のデジタルプラットフォーム • デジタルプラットフォームは最新のデジタル技術の活 用によって新たな様相を呈し出している。 • E-コマースプラットフォーム • 補完者(売り手)がインスタントメッセージングで顧客情報を 取得 • プラットフォーム所有者が売り手のパフォーマンス評価にオ ンラインフィードバックシステムを活用 • 配車プラットフォーム • Uber等は不適切行為抑止のため顧客への運転手連絡先開示 を禁止し、不正行為を暗号技術で監視 5

デジタルプラットフォーム変質の背景 • 規模が拡大： • Amazonは250万以上の売り手（補完者）を抱え、 1200万以上の商品を販売している。 • Uberは350万人以上のUber運転手を抱え、70ヶ国以上 で輸送サービスを提供し、輸送回数は1年間で70億回 以上(2019年）にも上る。 • デジタル技術が進歩： • デジタルプラットフォームのガバナンスは、デジタ ル機能そのものにより強く依存する形態に変化して いる。 6

デジタルプラットフォームの例 Uber,Airbnbのケース 仕組み： • 主にデジタルデータの分析 とマッチング機能に依存 課題例： • 価格決定権を付与するか？ • 専門サービス提供者の選別 法 • 不正行為を回避する方法 • 専門サービス提供者の評価 と処遇 • など

検討の図式 検討の構図 焦点 従来のプラットフォームのスコープ デジタルガバナンスの主役となるアルゴリズムの影響の 見なおし 8

２．インセンティブとコントロール デジタルプラットフォームの組織 インセンティブとコントロールの視点から • 相互の関係は契約によるものではなく、技術的な補完性または 相乗効果に根差した繋がりである。 • 即ち、共同専門のプロデューサー（プラットフォーム所有者と 補完者）の補完性が新組織出現を支える構図になる。 • 分散型イノベーションと専門化が新たな経済を生成する組織形 態とも言える。 • この世界では、インセンティブとコントロールの非統合メカニ ズムが範囲拡大に有効になる可能性がある。 9

デジタルプラットフォームの ガバナンスと設計 ガバナンス： • プラットフォーム所有者が補完者と一緒になって専門化された 機能を展開する際の市場との摩擦に対応する。 • その一方、プラットフォーム所有者が重要な生産資産（プラッ トフォームインタフェースや排他的所有権、など）によって、 補完者への禁止、コントロール、強制などについての対応を行 う。 設計： • プラットフォームに期待される成果達成のため、必要な組織を 構築および実装するための方法を設計する。 10

デジタルプラットフォームのガバナンスに関わるインセンティブとコントロール ガバナンス機構 インセン ティブ 定義 設計上の特徴 リソースの共有 補完者の価値創造活動を支援できるようにするための 補完者とのリソースの共有 API, SDK, コードライブラリー,参照設計,など 情報提供 インターフェイスまたは顧客に関連する情報の補完者 への提供 開発者向け会議、ワークショップ、など 自治権の付与 デジタルプラットフォーム所有者が、価値創造活動を 行う上で補完者に与える自律性の度合い 決定権の分散化 補完者への金銭的および非金銭的報酬の付与 収益分配スキーム 報酬の付与 補完者と顧客間のコミュニケーションチャネル モジュール性 フィーベースの特性 推薦、認定、特集、など アクセスコント ロール 誰がプラットフォームに参加してデジタル インター フェイスを使用できるかを決定するガバナンス機構 スクリーニング機構 境界リソースの使用の制限 アクセス料金 コント ロール 出力コントロー ル 補完者のアウトプットとアウトカムの評価とモニタリ ング 評判スコア、オンライン レビュー、格付け、など 行動のコント ロール プラットフォームで許可される、または適切と見なさ れるインタラクションの種類の決定 操作防止技術 デジタルプラットフォームの所有者が補完者に他のプ ラットフォームとのやり取りを許可する度合い 排他的な関係性 対外部関係のコ ントロール コンタクト情報の交換の制限 互換性の低下度合い 11

インセンティブの例 API提供＊ • リソースの共有：Apple Google Android StudioとSDKの提供 • 情報提供： プラットフォーム所有者がハッカソン実施 Alibaba ライブチャットツールの提供 （補完者が顧客と即座に通信可能） • 自治権の付与 Uber 価格決定権を完全に制御 Airbnb 推奨価格を提供し部分的に関与 Amazon 価格は補完者に完全に委託 • 報酬の付与 ＊:青色文字項目はアルゴリズム管理が強く関わる分野 12

コントロールの例 • アクセスコントロール： Uber 運転手候補者の背景チェック （犯罪歴または特定運転違反歴の個人を排除するため） Facebook Facebook友人検索APIへのアクセス禁止 （Vine（ﾋﾞﾃﾞｵ共有ｱﾌﾟﾘ）に対して（TwitterがVine買収後）） • 出力コントロール： Amazon, Taobao, eBay 評判スコア、オンライン評価 eBay 買い手は商品説明、コミュニケーションの質、 配送時間、送料、などで売り手を評価 13

コントロールの例（続） • 行動のコントロール： 機械学習による不正レビューの抽出 補完者と顧客間の連絡先情報交換の監視あるいは制限 （顧客がプラットフォームインタフェースを迂回するのを止めるため） Amazon 買い手/売り手間のメールアドレスを暗号化し 通信プロセスを完全に監視 Uber/Lyft 運転手の連絡先を顧客に開示せず顧客はアプ リのインターフェースを介してのみ連絡 • 対外部関係のコントロール： Google アプリ開発者にGoogle Play APIを提供 （他プラットフォームとの互換性無し。マルチホーミングを抑止） 14

インセンティブとコントロールの視点から の検討（中間まとめ) 価値 ・価値創造 ・価値獲得 形式化 ゴール ガバナンス ・インセンティブ ✓ リソースの共有 ✓ 情報提供 ✓ 自治権の付与 ✓ 報酬の付与 ・コントロール ✓ アクセスコントロール ✓ 出力コントロール ✓ 行動のコントロール ✓ 対外部関係のコントロール 設計 デジタル 決定 形式の変更 • API, SDK,コードライブラリ、モジュール 性、フィーチャー、オンラインコミュニ ケーション、オンラインレビュー、他の デジタル機能の提供または制限を主とし てアルゴリズムによって実施の仕組み アナログ • 決定権の割り当て、排他的関係、フィジ カルスクリーニング、オフラインコン ファレンス、売上げ共有契約、など ガバナンスの「インセンティブとコントロール」間、および 設計の「デジタルとアナログ」間のバランスの確保が重要 15

３．アルゴリズム管理 - Uberを例に - アルゴリズム管理とは アルゴリズム管理の視点から • アルゴリズム管理が特に普及している代表分野： • オンライン労働プラットフォーム • Uber, Airbnb, Upwork, Amazon Mechanical Turk, など • 欧米のみで1億8千万人以上の労働者/フリーランスが引き寄せられ ている。 • アルゴリズム管理の定義 • 「プラットフォーム上での大規模なデータ収集と分析により管理 者が従来実行していた調整やコントロールの機能を学習アルゴリ ズムの開発や改善によって実行すること」 16

アルゴリズム管理の特徴 • できるだけ最新のデジタル技術（コン テキスト認識、リアルタイム応答、 ビックデータ分析、他）を活用 • 結果、データ駆動型の学習と意思決定 を可能とするAIベースのアプローチが 主流に • しかし、多くの場合、依然として人間 アクターの責任が大きい場合も多い （右図参照）。 • 特にオンライン労働プラットフォームへ適 応時には顕著 伝統的管理 vs アルゴリズム管理 制定(アルゴリズム経由) アルゴリズム管理 構成(人間による) 自動化 配送/通信(デジタ ル技術による) 伝統的な管理 人間の管理者 人間の労働者 17

Uberの例より • マッチング＆アルゴリズムによる制御 • 運転手と顧客のマッチング（動的価格設定も含め） • 運転手の作業行動の制御（指示、評価、報酬、制裁、など） • 手段 • 顧客からの評価データや多様なセンサー装置を駆使して詳細な行動 データを収集（運転スタイルやサービス品質まで） • これらのデータはマッチングに利用されるだけでなく、 • パーソナライズされて運転手にフィードバックされ、推奨事項（サー ビス品質の向上方法など）を運転手にも提供 • Uber運転手のようなフリー労働者の管理にアルゴリズム管理は 既に確立しているが、類似性のあるサービス（小包運送業者、 倉庫労働者、など）に従事する正規労働者にも同等サービスの 18 提供は可能

人間の同僚としてのアルゴリズムの 問題点 問題点 • 人間はアルゴリズムによって 生成された出力を完全には理 解できない：【AIのブラック ボックス】。 • 複数のアルゴリズムが人間の 介入なしに相互にフィードし ている。 • 例：Uber運転手は乗客送迎時、 複数アルゴリズムによってルー トも乗車時間も追跡されてい る：【Uber運転手はアルゴリ ズムの部下（監視対象）】 人間にとっての問題点 • アルゴリズムが不公平、不正確 あるいは息苦しいとの認識が出 る。 • アルゴリズムに起因する作業実 行の際、人間側の認知的リアク ションがアルゴリズム側に フィードバックされない。 – 例：荷物が多く乗車を断らざるを 得ないような状況をフィードバッ クできない。 • これらは、人間の混乱とアルゴ リズム作業への抵抗に繋がる可 能性がある。 19

アルゴリズム作業におけるアルゴリ ズムと人間との相互作用モデル 学習フィードバック ループ: アプリを介して実行されたタス クアクション情報がアルゴリズムにフィードバックされる 役割を担う人間: 絡み合った複数役割を持つ送信者としてのア ルゴリズム:説明がつかない、論理的に孤立 or 競合、コンテキストを認識しない、タイ ムリーでないアクションを要求 管理者（例：作 業指示を送信） パフォーマンス評 価者 (例: パフォー マンス計算) 知識のある同僚 (例: ナビゲーショ ン情報を提供) 関連情報を人 間に伝える 次のような経験が 存在: • アルゴリズム 主導の役割の 競合 • アルゴリズム 主導の役割の 曖昧さ タスクアクションの実行： • 指示どおりにタスク実行 • 回避策を実行 • タスクを無視 経験の認知的リアクション: • 収入の減少と業績の悪 化による心理的健康の 低下 • 負の感情 人間からのフィードバックループを破壊: タスクアクションに関連 する人間の認知反応情報がアルゴリズムにフィードバックされない 20

図の解説 • アルゴリズムは複数の想定主体由来で複数指示が混在する。 • 管理者の立場：作業タスク命令（乗客のピックアップ、目的地までの 運転、乗客を降ろす、など） • 運転手作業評価者：適正レートでの運転実績の計算、作業品質の評価 • 同僚としての知識保持者：運転ルートのナビゲーション情報提供 • アルゴリズム指示は本質的に曖昧な部分があり、人間側の認知 では否定的にならざるを得ない場合がある（下記に例）。 • 運転手は乗客を乗せるまで目的地を知らされない。 • 荷物が多く乗車を断らざるを得ないような状況をフィードバックでき ない（乗車拒否と否定的に評価される）。 • 運転手評価のアルゴリズムを知らされていない（稼ぎを増やす工夫を しようと思っても、やる術がない）。 21

アルゴリズム作業下での 壊れたループ学習 • 多くの場合、人間は指示された通りに実行することで与えられ た作業タスクに対処する。 • 回避を実行したり、無視したり、拒否することもある。 • アルゴリズムはこれらの人間のアクションを感情のない行動として自 動的に記録する。 • 人間がアルゴリズムからの難しい指示に従った時のフラスト レーションも記録されない。 • 正常なタスク実行結果はアルゴリズムにフィードバックされる が、フラストレーション、不満、不安およびこれらに関する人間の認知的 反応はフィードバックされない。 • 即ち、アルゴリズムはこれらの認知的反応を認識して学習する ことができない（壊れたループ学習）。 22

アルゴリズム管理の視点からの検討 （中間まとめ） • アルゴリズム管理は人間の関与が殆ど無い分野の自動化に適応が想 定される面もあるが、 • 実際には、人間との対話が必須のオンライン労働プラットフォーム 分野などへの適応もかなり進んでいる。 • 結果、アルゴリズム管理のネガティブな面が結構顕在化している。 • 例：Uberの運転手の処遇、Amazon Mechanical Turkの仕事請負状況、など • 解決が難しい問題である一方、既に現代IT社会を構成する重要な部 分になっていて、顧客もメリットを享受している。 • 法的あるいは制度的側面からの検討も政府・民間で行われている。 • これに加えて、従来のアナログガバナンスと新しいデジタルガバナ ンスの適切な組合せ検討も必要と思われる。 23

４．ガバナンスモードとガバナンスメカニズム 新たな動向と課題 前節の課題に対する異なる視点から考察 動向： • デジタル技術は個人（補完者、顧客など）と組織間のデータと知識 の交換を大幅に拡大させ、新たな種類の課題を誘発させている。 課題： • プラットフォームベースのトランザクション量やオンラインコミュ ニティなどでのデジタル交換量は爆増している。 • 結果、このような事態に対処してきたアナログベースのガバナンス メカニズム（契約、関係規範）は限界に突き当たっている。 • 例：Airbnbの全宿泊数に対して如何に「信頼」を担保するか？ 解決の方向性： • アルゴリズム(デジタル)ベースでのガバナンスとアナログベースガ バナンスの最適組合せの可能性も検討の余地がある。 24

デジタルガバナンスの特性 • デジタル技術はガバナンスを自動化するのを容易化する。 • デジタル技術によるガバナンス強化や自動化はガバナンス効率 化や取引の透明性向上に貢献する。 • 更に、デジタルガバナンスは確実性を高め、誤りの少ない正式 なコントロール（承認、投票権、など）を拡大させる。 • 反面、自動化されたガバナンスは一度確立されると硬直性を助 長し適応性を損なう危険性がある。 • 自動化の欠点を克服するためには、アナログガバナンスと適切 に共存する形態を選択する可能性も有り得る。 25

アナログガバナンスとデジタルガバナンス アナログガバナンス ・主に集中型のコントロール ・双方向での調整 ・非自動的（官僚的）なインセンティブ ・アクター間の関係に依存した信頼の醸成 デジタルガバナンス ・主に分散型のコントロール ・全方位的な調整 ・自動化されたインセンティブ ・アルゴリズムシステムに基づいた信頼の醸成 両ガバナンスの中間にアクターとアルゴリズムが絡み合う拡張ガバナンス を想定する。 26

４つのガバナンスメカニズム 協力 調整 競争 価値創造を可能にする 協力と競争を仲介する 価値獲得を制限する 調整 タスクの分割と割り当て プロセスの制御 関係の制御 信頼 関係の脆弱性を緩和 コントロール インプットとアウ トプットの検証 アウトプットの制御 インセンティブ 競合する利益の調整 27

３つのガバナンスモードと ４つのガバナンスメカニズム ガバナンスモード ガバナンス メカニズム コント ロール 調整 インセン ティブ 信頼 アナログガバナンス 拡張ガバナンス デジタルガバナンス 垂直的権限のメカニズムを介 して行使されるコントロール 横方向権限行使が出来るデジ タルツールでサポートされる コントロール 自律的なチェック・アンド・ バランス・アルゴリズムによ るコントロール 二者間タスクの定義と割り当 てによる調整 参加者間のデジタルチャネル によって促進される調整 アルゴリズムの定義とタスク の割り当てによって可能にな る調整 再交渉の可能性を条件として、 インセンティブはコードに記 当事者間で成文化され、合意 録されているが、手動でのレ されたインセンティブ ビューと調整が必要 出力が入力として機能する フィードバック ループで自己 適応アルゴリズムによって設 定再評価されるインセンティ ブ アクターと経験に基づく信頼 アルゴリズムシステムとコン センサスメカニズムに基づく 信頼 人間とアルゴリズムの検証に よって強化された信頼 28

３つのガバナンスモードの組合せ • ガバナンス設計者は３ガバナンスモードについてそれぞれ４ガ バナンスメカニズムをブレンドして実装可能な構成を作成でき る。 • 一般には、３ガバナンスモードの組合せ選択が利用される。 • 理由： • ３ガバナンスモードにおけるコスト構造の性格が異なる。 • 大幅に増加するデータと知識の交換が市場やヒエラルキーの範囲外で 発生することが多く、新しい形態を考慮する必要があるため（デジタ ルプラットフォーム、オンラインコミュニケーション、ブロック チェーン、など） 29

ガバナンスモードのコスト構造 トランザクション活動量 ＝ 参加者 × 接続数 × 一貫性 • ガバナンスモードのコストはトランザ クション活動量の関数として指数関数 的に増加するが、増加速度が異なる。 • 理由： • アナログモードは取引属性に基づき2者間 の交渉が必要（初期コスト少、コスト増加率大） • デジタルモードはアルゴリズム設計や実装 などで準備コストが掛かるがスケーリング が容易（初期コスト大、コスト増加率少） ガバナンスコスト (ノードの数) (ネットワーク密度) (均一な方法で実施される範囲) デジタルガバナンス 拡張ガバナンス アナログガバナンス トランザクション活動量 30

ガバナンスモードとガバナンスメカニズ ムの視点からの検討（中間まとめ) • 小規模組織では初期コスト大の自動化は基本的に難易度が高い。 • 一方、規模大で自動化に向いていたとしても自動化ガバナンス ソリューションは悪用されるリスクもある。 • 妥協点を考える際、特定企業のガバナンス設計者の視点と取引 所（プラットフォームなど）および参加者の視点は異なる。 • 参加者にとっては予測可能性の向上、透明なルールに基づくト ランザクション実行時の信頼性などが重要になる。 • しかし、デジタル世界では特異なネットワーク効果発生で参加 者に異質な不測事態がもたらされることもある。 31

５．デジタルプラットフォーム管理の今後 デジタルプラットフォームの新たな傾向 • プラットフォーム離陸に必要なクリティカルマス到達に関わる 戦略が依然重要ではあるが、 • 既に離陸したプラットフォームでは、アルゴリズム管理の普及 でサービスレベルは一層精緻化している。 • 例1：Airbnbは見知らぬゲストとの一回限りの取引でも如何に快適に感 じられるかのサービス高度化を推進（世界中のどこにいてもホストを 見つけけられるよく設計された検索機能、ホストとゲストの直接的コ ミュニケーションの促進、等） • 例2：UberとLyftは、高い顧客乗車率を期待できる時間帯に多くの運転 手を如何に素早く引き付けるかの急上昇の動的価格設定アルゴリズム で競争 • 加えて、アルゴリズム管理の普及に由来する課題も多数顕在化 32 している。

アルゴリズム管理に関する２つの見解 • 顧客ニーズへの対応 • 生活のプライベートな分野まで何時の間にか決定が行われる時代 になってきた（どのニュースを見るか？どの製品を買うか？） • この延長線上に、どこからでも呼べる安いタクシーの方が良い か？ • このような顧客ニーズの変化に向けての～ • 手段としての良い面（組織の視点）： • 意思決定の正確さ、運用効率、ビジネス運用の拡張性の向上、な ど • 労働環境としての悪い面（労働者の視点）： • 絶え間ない監視、非人間性、透明性の欠如、など 33

具体的な取組みの方向性 • 新たな共存に向けた方向性の例： • AIベースのアシスタント普及で人間の能力が疑問視の面が顕在化 • これは低熟練労働者に限らない（皮膚科、放射線科の医師、など でも）。 • 但し、これはAIを巧く活用すれば医師の負担を軽減し、医療ミス を減少させられる可能性があることも示唆する。 • 必要とされる透明性 • アルゴリズム管理は人間の管理者の管理上の意思決定を自動化し、 負担軽減、あるいは発見された洞察を示す面もあるが、 • 関連するデータとそれを活用するアルゴリズムに起因した運用形 態の透明性が前提になる。 34

「仕事」の再定義も必要か？ • Chat GPT本格導入の際もアルゴリズム管理における“壊れた ループ学習”と類似の現象が想定される。 • Chat GPTが学習し知識化するのは表現された意味内容にとどまる。その 範囲では知識は膨大で完成度も高い。 • 一方、人間の表現は話し手と聞き手の上下関係、お互いの状況などを 含む依存関係に基づく。また、知識は不完全で曖昧で、知識量もさほ ど大きくない。 • このような非対称な状態で、人間がChat GPTを使いこなそうとした場 合、成果を正しくチックできるか？あるいは適切な業務に活用可能 か？に懸念が生じる。 • これは人間と生成AIとの関係に“壊れたループ学習”相当の課題を誘発 し、人間の担当する「仕事」の再定義やそもそもの人間とAIの関係性 35 の見直しを迫る。

まとめ（今後への示唆） • Chat GPTの具体的労働の場での活用も含め、 AIと人間の共存/連携には“壊れたループ学習” 的問題が存在する。 顧客 • これは暫くは人間の関与の形態が未解決のまま残さ れるとも言える。 • しかし、顧客ニーズへの対応が優先する世界で は、立場の異なるアルゴリズム管理の２側面と 如何に折り合いを付けながらサービス/ビジネ スを継続させるかが重要になる。 • この延長線上にアルゴリズムをコアとした新た な機能導入の管理形態を想定する必要がある。 • このような変化を予見して“仕事の未来”を考え る必要がある。 新たな顧客ニー ズが次々に登場 折り合い 組織 （人間） アルゴリズム管理 の二面性（組織面 と労働者面） 折り合い 技術 （AI） “壊れたループ 学習”類の問題 36

文献