デジタル編集部 – 2023年4月4日

デジタル編集部 Chat-GPT 革命か脅威か? [2023年4月4日] ここ数日、Chat-GPTが再び脚光を浴び、話題を呼んでいます。フランスのデジタル業界では、この分野でのフランスやヨーロッパの「遅れ」を強調し、新しい技術革命に乗り遅れていると主張する声が多く聞かれます。その一方で、アメリカの大手デジタル企業からは、この技術開発のブレークを期待する声も多く聞かれます。 私は、断言や確信を持たないように注意したいが、このテーマに関する議論に加えるために、いくつかの要素を提示しておきたい。 フランスやヨーロッパは遅れているのか?はい、いいえ。確かに、共同創業者のマリー・グラニエがインタビューに応じてくれたLexistemsをはじめ、フランスのスタートアップはたくさんある。Chat-GPTの話題や手段とは異なり、私たちは企業や組織向けに、本当の意味で付加価値のあるソリューションを持っています。メディアのスポットライトを浴びないということは、私たちが存在しない、付加価値の高いソリューションを提供していないということでしょうか。 技術革命の幕開けを迎えているのでしょうか? いいえ、これらは漸進的な改善であり、まだ複数の懸念を抱かせる問題があるからです。 これらの生成AI技術は、クラウドというアーキテクチャーのレンガをベースにしています。このレンガを技術的にも法律的にも使いこなすという問題は根強く残っています。特に、情報セキュリティやパーソナルデータの活用といった問題は、依然として重大で未解決のままです。クラウド上の戦略的自律性を解決しないまま、AIに専念しなければならないと言う人たちは、選択的盲目である! 次に、Chat-GPTのユースケースに特化した問題が出てきます。それは、直接的で自発的な偏見と、学習ベースであるウェブに間接的に関連する偏見です。Chat-GPTの機能を取り巻く不透明さと、不可避的なバイアスの管理は、現実的な問題を提起しています: – フェイクニュースの強化:AIが偏ったコンテンツに基づいてコンテンツを生成し、それがウェブに供給され、新たなコンテンツの生成に使われる…自己強化型の偏向…。 – Chat-GPTは、例えばプロユースのLexistemsとは異なり、コンテンツの出所を特定することはできません。引用や参考文献でサポートすることなく、素敵な論文を提供することができます(少なくとも現時点では)。 – 最後になりましたが、インターネット上の他のツールと同様に、イデオロギーに基づいたものであり、教化や大量プロパガンダの危険性という現実的な問題を提起しています。ここではChat-GPTについて話していますが、中国のAIに同じ問題がないと考えるのは間違いでしょう・・。 今のところ、これらの生成型AIはまだ自らの意識を持つ段階ではなく、この想像の世界に結びついた恐怖はまだ現実のものにはなっていない。しかし、これらのAIの作成者が、作成したAIの実際の機能に対してコントロールできることが少なくなってきていることは気がかりである。 これらの要素は、私たちが自給自足で自己増殖する技術システムの中にいて、人間の居場所はこの技術世界の中で交換可能な部品のごく一部に縮小されている…というジャック・エルールの観察を裏付けるだけだ。

4 April 2023

クラウドとデータの安全性についてのナイーブな質問

さまざまな対談者と議論を重ねるうちに、クラウドプラットフォームへの依存度についての質問が多くなってきました。私は、デジタル、ソフトウェア、ホスティング、データ主権に関連する鍵となる重要な側面について、このテーマに強い関心を抱くようになりました。しかし、調べれば調べるほど、新たな疑問が湧いてきて、このテーマと問題の複雑さを思い知らされるばかりです… クラウドプラットフォームは、まず第一にサーバーのインフラストラクチャである 概念的には、特にソーシャルネットワーク(SN)が構築されるクラウドプラットフォームの原理について、いくつかの重要な情報を思い出すとよいでしょう。これからお話しすることは、使用するクラウドプラットフォームに関係なく適用できるものです. クラウドプラットフォームは、まず第一に、1つまたは複数のデータセンターにある非物質化されたサーバーのインフラストラクチャであり、プラットフォーム運営者が所有するかどうかは問わない。そして、この最初の低レベルのレイヤーの上に、ソフトウェアプラットフォームそのものが構築されます。このような技術的・ソフトウェア的なアーキテクチャは、これらのソリューションの管理・保守の複雑化を招き、その結果、セキュリティの面でも問題が生じます. アーキテクチャやステークホルダーとの関係で疑問が生じるセキュリティの側面について見てみましょう : インフラを自ら管理する編集者 本人しかアクセスできないため、外部からのセキュリティ上の問題は発生しない。残るは、インフラの維持・管理に従事する従業員のセキュリティの問題です。データの悪用から保護する唯一の方法は、契約によるものであり、これには制限が伴います。 プラットフォーム・パブリッシャーは、インフラのアウトソーシングにサービス・プロバイダーを利用することもあり、このサードパーティーによってホストされていますが、これらのサーバーはパブリッシャー専用となっています。仮想サーバーがホストされている物理サーバーの管理と技術的なメンテナンスは、これらの要素への管理者アクセス権を持つサービスプロバイダーが実施し、メンテナンス作業を行うことができます。また、これらのアクセスによって、悪意のある行為(サーバーのコピー、サーバーの削除など)を行うことも想像できます。それから身を守る手段は、ここでも契約によるもので、常にこの種の保護が示す限界と一緒です… パブリッシャーはパブリッククラウドを使用しており、そのプラットフォームの基盤となるインフラは必ずしも専用ではなく、サードパーティーとインフラを共有することを意味します。インフラを管理・保守・セキュリティの面でコントロールできるのは、クラウド事業者のみです。 各リンク先では、究極の保護は、その従業員がスーパー管理者アクセス権を持つ契約になっています。したがって、利用するサービス・プロバイダーが増えれば増えるほど、製品のセキュリティ面を第三者に委ねることになるのは明らかです。 これは、拡張管理者アクセス権を持つこれらの人々が、あなたのデータにアクセスできることを意味します。 ホスティングは最初の一歩に過ぎません。そして、機能性を提供し、データの保存、共有(または非共有)、分析を可能にするソフトウェア部分となります。お客様のデータを含むこれらすべてのコンポーネントは、プラットフォームチームの管理下にあります。コンピュータ上の他のアプリケーションと同様に、管理者プロファイルがあり、メンテナンスの実行、バグの修正(パッチ)、あるいはアクセスできなくなったあなたに関する要素を変更するために必要不可欠です。これは、拡張管理者アクセス権を持つこれらの人々が、あなたのデータにアクセスできることを意味します。この情報は暗号化されているので、平文でデータにアクセスすることはできないと反論する人もいるかもしれませんが、暗号化キーは誰が持っているのか、もしそれがサービスプロバイダーであれば、彼らはあなたのすべてのデータにアクセスできるのと同じことかもしれないと思うかもしれません。もちろん、当該管理者の雇用契約という法的な「保護」がある。 SRアカウントによる本人確認の可能性を提供するこれらのプラットフォームは、セキュリティ面をすべて考慮しているのでしょうか。 アメリカのソーシャルネットワークの覇権に直面し、プロフィールを作成したり、あらゆる目的で新しいプラットフォームに接続する新しい方法が登場したのです。 そこで、#Facebookや#LinkedIn、#Googleのアカウントを、より簡単に登録したり、つながったりする方法として利用するのです。魅力的です、ワンクリックで十分です。しかし、これでは、知らない人に家の鍵を預けて、自分がその家に行かないことを保証してもらうようなもので、セキュリティ上も問題があります…しかも、同じサービス事業者に全部またはほとんどの鍵を預けることになるのです。これを見て、不思議に思わないか ? 今、特に米国のSRに焦点を当てると、FB、Linkedin、Googleなどのアカウントを使って他のプラットフォームに接続する場合、通常は彼らの範囲外であるプラットフォームにアクセスするキーを与えていることになるのです。 確かなことはわかりませんが、このオプションを提示されても利用するのが賢明だと思いますか?アメリカの国家があなたの頭の中にシラミを探すことを決めた日に、あなたの代わりに、あなたが使っていて、そのためにアメリカの法律が適用されるアメリカの俳優にキーを委任したアプリケーションにアクセスしないことを誰が保証できるでしょうか… あなたが接続できるこれらのアプリケーションやプラットフォームは、さらに、必ずしも私的な使用ではなく、専門家としての使用(共同プラットフォーム、など)である可能性があります。 また、SRアカウントによる本人確認の可能性を提供するこれらのプラットフォームの設計者が、セキュリティの面をすべて考慮しているのかどうか、疑問に思う人もいるかもしれない。セキュリティ要件を考慮せずに生活を楽にすることは、やる価値のあるゲームなのでしょうか?さらに、このプラットフォームが主権者であると主張するならば、アメリカや中国のデジタルプラットフォームへのゲートウェイとなる可能性があるとすれば、本当にそうなのだろうか。? このように、デジタル主権に関心を持つと、そのテーマを多面的に探求する必要があります。時には、ユーザーの生活を効果的に簡素化する一方で、セキュリティ上の欠陥や、具体的な主権の実質的な喪失につながるような機能性を実装する必要性を疑わざるを得ません。実際、米国やおそらく中国の治外法権や、デジタル大企業とそれぞれの政府との関係を考えると、いわゆる主権者のプラットフォームで自分を特定するために#Facebookや#googleのアカウントを使うことに同意したからといって、データを取り出すことにためらいはないだろうかと疑問に思う。…

30 August 2022