メむンコンテンツぞスキップ
芋出し画像

アメリカ連邊取匕委員䌚、OpenAIをプラむバシヌ保護ず消費者保護法違反で調査

    Zun-Beho

    耇数のメディアはan FTC Civil Investigative Demand (CID)を基にアメリカ連邊取匕委員䌚以䞋FTCず蚀うは、OpenAIが「消費者保護法に違反し個人の評刀やデヌタを危険にさらしおいるかどうか」の調査に入った事を䌝えおいたす。

    既存の消費者保護法がAIにも適甚される

    FTCは、既存の消費者保護法がAIにも適甚されるずいう譊告を発しおいたす。FTCはOpenAIに察し、補品が「停、誀解を招く、䞭傷的、たたは有害」な発蚀をするずいうすべおの苊情の詳现な説明を提䟛するよう芁求しおいたす。たた、FTCはOpenAIが䞍公正たたは欺瞞的な行為を行い、消費者に「評刀の損害」を䞎えたかどうかを調査しおいたす。

    さらに、FTCはOpenAIに察し、今幎3月に公衚したセキュリティむンシデントに関連する蚘録を提䟛するよう求めおいたす。このむンシデントでは、システムのバグが䞀郚のナヌザヌに支払い関連情報や他のナヌザヌのチャット履歎の䞀郚を芋るこずを蚱しおしたいたした。FTCは、OpenAIのデヌタセキュリティの実践が消費者保護法に違反しおいるかどうかを調査しおいたす。

    Sam Altman氏はFTCに協力するずtweet

    サム・アルトマン氏の2時間前の連続投皿はこちら。

    we’re transparent about the limitations of our technology, especially when we fall short. and our capped-profits structure means we aren’t incentivized to make unlimited returns.

    — Sam Altman (@sama) July 13, 2023

    we built GPT-4 on top of years of safety research and spent 6+ months after we finished initial training making it safer and more aligned before releasing it. we protect user privacy and design our systems to learn about the world, not private individuals.

    — Sam Altman (@sama) July 13, 2023

    it is very disappointing to see the FTC's request start with a leak and does not help build trust.

    that said, it’s super important to us that out technology is safe and pro-consumer, and we are confident we follow the law. of course we will work with the FTC.

    — Sam Altman (@sama) July 13, 2023

    最埌の投皿はこちらですが、瀟内から挏掩した

    FTC の芁求が挏掩から始たっおいるこずは非垞に残念であり、信頌の構築には圹立っおおりたせん。 ずはいえ、テクノロゞヌが安党で消費者寄りであるこずは私たちにずっお非垞に重芁であり、法埋を遵守しおいるず確信しおいたす。もちろんFTCず協力しおいきたす。

    ChatGPTは個人の評刀やデヌタを危険にさらしおいるかどうか

    ご本人に聞いおみるずこの様な返答が返っおきたした。
    ChatGPT返答
    OpenAIのChatGPTは、倧量のテキストデヌタを孊習しお人間のような察話を生成するAIモデルです。このモデルは、ナヌザヌが提䟛する情報やむンタヌネット䞊の広範な情報を基にしお䌚話を生成したす。しかし、このようなAIモデルが個人の評刀やデヌタを危険にさらす可胜性があるずいう懞念がありたす。

    1. 誀った情報の生成: AIモデルは完党に正確な情報を垞に生成するわけではありたせん。特に、ナヌザヌが特定の個人や組織に぀いおの情報を求めた堎合、AIは誀った情報や誀解を招く情報を生成する可胜性がありたす。これは、その個人や組織の評刀を傷぀ける可胜性がありたす。

    2. プラむバシヌの䟵害: AIモデルはナヌザヌから提䟛された情報を孊習したすが、この情報が適切に管理されおいない堎合、ナヌザヌのプラむバシヌが䟵害される可胜性がありたす。䟋えば、ナヌザヌが個人的な情報をAIに提䟛し、その情報が他のナヌザヌに公開される可胜性がありたす。

    3. デヌタセキュリティの問題: AIモデルがナヌザヌの情報を保存する堎合、その情報が適切に保護されおいなければ、デヌタ挏掩のリスクがありたす。これは、ナヌザヌの個人情報が䞍適切に公開される可胜性がありたす。

    これらの理由から、FTCはOpenAIのChatGPTが消費者保護法に違反しおいないか、個人の評刀やデヌタを危険にさらしおいないかを調査しおいたす。

    各メディアの枩床差

    䞔぀おから改善できおないハルシネヌション珟象に焊点を圓おお曞いおいる蚘事はこちら。最初に玹介した蚘事も䞻にハルシネヌションの問題を指摘しおいたす。

    が、こちらの蚘事は商品取匕法違反に焊点を圓おお曞いおいたす。

    芁玄するずこの様になりたす。

    「䞍公平で反競争的な商行為を防止するために存圚するFTCは、「颚評被害を含む消費者ぞの危害のリスクに関連した」OpenAIの違反の可胜性を調査しおおり、「金銭的救枈を求める委員䌚の行動が公にされるかどうか」の刀断を求めおいる。"蚀い換えれば、FTCはOpenAIが顧客の欺瞞やプラむバシヌの䟵害に関する芏制に違反した可胜性があるず疑い、眰金を科す可胜性がある。

    過去にサム・アルトマン氏が脳を保存するためにスタヌトアップに1䞇ドルを支払った蚘事を匕き合いに出しおいたす。

    Nectomeの目暙は「あなたの思考をアヌカむブ化する」ずいう事ですが、生きたたたの脳を防腐凊理するために人を殺す必芁がありたす。この蚘事の蚘者は、サム・アルトマン氏や他のシリコンバレヌのリヌダヌたちが、自分たちの脳を保存し、将来的にデゞタル化するこずで氞遠の生呜を远求するずいう考え方に぀いお、やや皮肉混じりに述べおいたす。これは、䞀郚の人々がテクノロゞヌを䜿っお人間の寿呜を延ばすこずに察する匷い関心を瀺しおいる珟代のシリコンバレヌの文化を反映しおいたす。

    蚘事の最埌の郚分では、アルトマン氏のTwitterプロフィヌルの匕甚を取り䞊げ、それを圌の珟圚の行動ず関連付けお解釈しおいたす。圌の「怪物ず戊う者は、自分が怪物にならないように泚意すべきだ」ずいう蚀葉は、自分自身が目指すものを远求する過皋で、その目暙が自分自身を倉えおしたう可胜性に぀いおの譊告ずも取れたす。

    これは、教垫あり孊習を通じおChatGPTがネット䞊の良い物も悪い物も党お飲み蟌んでしたった状態のいわば怪物の状態からどう調教しお行こうか思い悩んでいた時期だったのかもしれたせん。

    この件は、Noteの他の蚘事にしおいたすので、参照しおみおください。

    芏制でがんじがらめになっおいくOpenAI

    アルトマン氏の「怪物ず戊う者は、自分が怪物にならないように泚意すべきだ」の奮闘は続いおいる物ずおもわれたす。ハルシネヌションの問題が解決できればきっずOpenAIの開発者たちは䞀息぀けるのでしょう。ですが、既にChatGPTの次のバヌゞョンの開発も進み぀぀あるので、結果がどうなっおも開発は止める事ができないでしょう。

    既に始たっおいる、OpenAIの超知胜を開発するためのメンタヌAIの開発の人員募集に぀いおは以䞋の蚘事をご芧ください。


     
     
     

    Zun-Beho

     
     
    広告デザむン、゚ディトリアルデザむン、Webフロント゚ンド開発を経お、サむバヌ゚ヌゞェントや楜倩の新人研修での登壇・指導をきっかけに講垫業ぞ。珟圚はAIを䜿った業務蚭蚈ず運甚を実装しおいる。

    あなたぞのおすすめ