目次:
ある種の軍拡競争と呼ぶことができるものにおいて、ハイテク企業は、アプリケーションやプラットフォームを強化する人工知能アルゴリズムを磨くために、大量のユーザーデータを収集しています。 これまでのところ、彼らの慣行が法的および倫理的に灰色の領域にそれらを押し込んだとき、彼らはほとんど説明責任を回避することができました。
それは、AIアルゴリズムを使用している企業にとっては悪いニュースのように聞こえるかもしれません。AIアルゴリズムは、緩やかなデータ収集規制（および長くて退屈で曖昧なサービス文書）の恩恵を受けています。 厳格なルールが多くのアプリケーションやドメインで人工知能の革新と展開を妨げることを恐れる人もいます。 他の人々は、新しい指令がAIアプリケーションがより信頼性と信頼性を高める基盤を作成すると信じています。
いずれにせよ、AI業界はGDPR時代の大きな転換期にあります。
データの所有権とプライバシー
「GDPRはAIにとって大したことです。データをどのように収集して使用するかについて異なる考え方が必要だからです」とDigital Reasoningの創設者兼社長であるTim Estesは述べています。 「あまりにも長い間、テクノロジー企業は、自社の製品やサービスから価値を得るためには、データを放棄しなければならないと主張してきました。」
以前は、企業はあらゆる種類のデータを収集するために、ユーザーから漠然とした同意のみを受け取る必要がありました。 「AIはビッグデータの誇大広告を生かし続け、企業が利用可能なすべてのデータを収集してマイニングする別の理由を提供しました」とエステス氏は言います。 「多くの企業は、ユーザーのプライバシーやデータの所有権への影響を考慮せずに、AIを実装して、データを分析する必要があると考えているため、データを分析し始めています。」
GDPRの最も基本的な前提は、データがユーザーに属するということです。 GDPRでは、企業は収集した情報の全範囲、その使用方法、保護方法、不正アクセスの防止方法を明らかにする必要があります。 新しいルールにより、AI企業は、ユーザー情報の大量の保存、処理、共有に従事するのではなく、収集するデータについてより細心の注意を払わなければなりません。
忘れられる権利
GDPRを使用すると、ユーザーは企業がサーバーからすべてのデータを消去することを要求できます。 これは、傾向やユーザーの行動の予測などのタスクを実行するために、できるだけ多くのユーザーデータを保持することに強い関心を持っているAI企業には適していません。
「結局のところ、GDPRはデータの収集方法と管理方法にすべて関係し、保有するデータの量に必ずしも関係しません」とGrowthChannelのCEOであるMaryna Burushkinaは言います。 「ほとんどの企業が直面する主な問題は、オプトインを取得することではなく、データの管理、ユーザーへのデータの使用の伝達、およびユーザーがデータを削除できるようにすることです。」
AI企業は、これらの洞察に引き続きアクセスしたい場合、データを匿名化するために追加の手順を実行する必要があります。 しかし、他の課題は、ユーザーデータの大規模なストアを既に持っている企業が直面しています。
「GDPRのもとで、企業が特定のPIIを消去したい場合、どこでも消去されるようにする必要があります」とOctopaiのCEOであるAmnon Drori氏は言います。 これは、データがさまざまなサーバーに分散され、さまざまな構造化形式と非構造化形式で保存されている場合に、手動で実行するのは困難な作業です。
たとえば、ユーザーのクレジットカード番号（確かに機密情報）を削除する場合、企業は情報が保存されているすべてのレポート、データベース、データベースオブジェクト、およびETLを調べる必要があります。 「同じアイテムに対して異なるメタデータ名が表示されることがあります。たとえば、「クレジットカード番号」、「cc番号」、クレジットc番号」、「カード番号」、「クレジットカード番号」… 」とDroriは言います。 どこを探すべきかを知ることはしばしば不可能であり、プロセスには数週間から数ヶ月かかることもあり、多くの手動プロセスと同様、人為的ミスや不正確な傾向があるとDroriは言います。
GDPRは、データの処理における人為的ミスのコストも引き上げます。 「これが今日、非常に多くの企業がメタデータを正確に管理する自動化ソリューションを求めている理由です」とDrori氏は言います。 おそらく皮肉なことに、この点でAI自体が解決策になる可能性があります。 AIを活用したメタデータ管理ツールは、組織内のすべてのデータソースをスキャンし、さまざまなツールとデータソース間の関係を統合できます。
説明する権利
AIに関するGDPRの最も重要な部分の1つは、「説明権」として知られるようになったことです。 この指令は、企業が「自動化された意思決定の存在」についてユーザーに通知し、「関係するロジックに関する有意な情報、およびデータ主体に対するそのような処理の重要性と予想される結果」を提供する必要があると述べています。
これは基本的に、ユーザーがAIアルゴリズムに直接または間接的にさらされていることを知り、それらのアルゴリズムが下す決定に挑戦し、結論が導き出された証拠を要求できることを意味します。 これは、AI業界が直面する最大の課題の1つです。
最新のAIアルゴリズムの背後にある主要なテクノロジーであるディープニューラルネットワークは、大量のデータを分析し、相関とパターンを見つけることで独自の機能ルールを作成する複雑なソフトウェア構造です。 ニューラルネットワークがより複雑になるにつれて、その動作はますます分解しにくくなります。 多くの場合、エンジニアでさえ、AIアルゴリズムが下す決定の背後にある理由を説明できません。
「ブラックボックス」問題と呼ばれる、AIアルゴリズムの不可解性により、法廷での決定、法執行、ローンおよびクレジットの申請、採用、ヘルスケア、およびその他の重要なドメインでの実装が困難になりました。 しかし、法的効力を持たないAI企業は、特に企業秘密に密接に結びついている場合、AIアルゴリズムをより透明にするインセンティブがほとんどありませんでした。
これで、GDPRはAI企業がアルゴリズムの決定を説明できるようになります。
「GDPRの一環として、組織は、被験者に同意を求めながら、人間の言語で処理方法を明確に記述する責任があります」とラドウェアのセキュリティ研究者であるパスカルジーネンスは言います。 「ディープラーニングが進化し、データサイエンティストがニューラルネットワークの推論の背後にある決定論的な性質を特徴付けることができないため、この記述はより複雑になり、説明が困難になる可能性があります。」
基本的に、GDPRはデータを処理する人間に責任を持たせることです、とGeenensは言います。 そのため、機械学習アルゴリズムを使用して処理を行う場合、あなたに代わって行う決定を説明できるように設計する必要があります。
少数の組織が、AIをより透明にするためのテクノロジーを開発しようとしています。 その中でも顕著なのは、DARPAのExplainable AI（XAI）です。これは、AIベースの決定を理解できるようにすることを目的とした研究プロジェクトです。
アウトソーシングAI
GDPRは、データを第三者が利用できるようにする組織にも影響を与えます。 そのような会社の顕著な例はFacebookです。 ケンブリッジアナリティカスキャンダルで、ソーシャルメディアの巨人は、データマイニング会社が8, 700万人のユーザーのデータを収集して悪用するのを防ぐことができませんでした。 ただし、GDPRは、AI機能を外部委託し、AIプロバイダーがデータを利用できるようにする企業にも影響を与えます。
「多くの場合、AIプロバイダーは他のサービスプロバイダーと同様であり、金銭的な見返りと引き換えに技術を提供するだけですが、真実は、AIプロバイダーはテクノロジーを構築および進化させる方法としてビジネスパートナーシップにも参入していることです」 Digital Reasoningのエグゼクティブ。 これは、AIプロバイダーがクライアントのデータを保持して、独自のアルゴリズムをさらにトレーニングし、他のドメインで使用することを望む場合があることを意味します。
たとえば、医療機関が症状のパターンを見つけて診断を改善するのを支援するAIプロバイダーは、独自のアルゴリズムを改善するデータセットに出くわす可能性があります。 AI企業は、そのデータを活用して他の種類の患者ケアのアルゴリズムを改善し、他の医療提供者を支援する機能を進化させたい場合があります。 GDPRでは、AIプロバイダーによる非倫理的な使用を説明するために、データを担当する医療機関が保持されます。 鍵は、データではなくアルゴリズムを所有することを信じるAIプロバイダーを探すことです。
「GDPRは、データをどのように、いつ使用するか、保存する場所、プロジェクトの完了後に何が起こるかに、企業がより注意を払うことを強制します」とEstes氏は言います。 「これは、AIアルゴリズムの成功を支援する方法を妨げることなく、データ所有権のラインを定義し、ユーザー情報を保護する戦略を実装するAIプロバイダーと協力することを意味します。」
GDPRはAIイノベーションを妨げるのでしょうか？
私たちが話した専門家は、新しい規制はAI企業が採用している現在の慣行や習慣に挑戦するものの、プライバシーや倫理基準を革新し、尊重を維持するための新しい方法を見つけることを彼らに強制するだろうと信じています。
「GDPR規制が施行されると、すべての主要なソフトウェア企業は、コンプライアンスを確保するだけでなく、市場で新たな機会を見つけるために革新し、独創的に考えるために必要な措置を講じています」とGrowthChannelのブルシュキナは述べています。
「イノベーションはGDPRによって妨げられることはありませんが、指示され、動機付けられます」とOctopaiのDroriは言います。 一方、GDPRは、組織がGDPRコンプライアンスを達成および維持するのに役立つ新しいビジネスとテクノロジーも生み出します。
GDPRによって設定された標準は、実際には、AIを活用したサービスのプロバイダーとユーザーの間の拡大する信頼のギャップを埋めるのに役立つ可能性があります。 エステスは、GDPRによりAIプロバイダーとそのテクノロジーを実装するプロバイダーの両方がデータリソースの使用方法と場所についてより責任を持ち、ユーザーに利益をもたらすようにプッシュすると考えています。 「結局のところ、AIプロバイダーは、その機能とソリューションを革新するために、データではなくアルゴリズムを所有する必要があるだけです」と彼は言います。
