OpenAI、ChatGPTの安全上の懸念を巡り8州から提訴される

Eightつの州は水曜日、OpenAIに対して、同社のartificial intelligence企業が提供するChatGPTチャットボットは子供に害を及ぼし、保護者を欺く安全ではない製品であると主張する訴訟を提起した。

Iowa、Kansas、Nebraska、West Virginia、Arkansas、Arizona、Idaho、Montanaの各州は、それぞれの州裁判所で個別にOpenAIを提訴したと、Iowa州司法長官のBrenna Bird氏がa releaseで述べた。彼女は、Iowa州の訴訟は「OpenAIの意図的で危険、無謀かつ違法な行為によって影響を受けたアイオワ州民の権利を擁護する」ことを目的としていると述べた。

「OpenAIは子供たちを傷つけ、アイオワ州民に嘘をついている」とBird氏は声明で述べた。「OpenAIはChatGPTが安全であると主張しているが、実際には危険な医療アドバイスを与え、他者を傷つけることを助長し、自殺を教唆している。それもすべて偽の友人のふりをしながら行っている。私の訴訟は、私たちの子供たちを守り、州法に基づいてOpenAIに責任を負わせるためのものだ」

OpenAIの広報担当者Drew Pusateri氏は、同社は「他の多くのAI製品には欠けている」年齢別の保護機能を製品に組み込んでいると述べた。また、OpenAIは業界全体に適用される政策を推進するために各州と協力していると付け加えた。

「完璧なシステムというものはないが、我々は今後も専門家と協力して、ペアレンタルコントロール、休憩リマインダー、現在存在する年齢に応じたモデル保護などの追加のセーフガードを構築し、情報を得ていく」と Pusateri氏は述べた。

OpenAIは、子供を保護するために同社がどのように取り組んでいるかなど、その安全・セキュリティ慣行について厳しい監視の目にさらされている。多くのwrongful death lawsuitsにおいて、ChatGPTはユーザーに有害な妄想を抱かせ、場合によっては自殺に追い込んだとして非難されている。Florida州司法長官のJames Uthmeier氏も6月に、ユーザーに害を及ぼす可能性のある安全でない製品を同社が知りながらリリースしたと主張してOpenAIを提訴した。

OpenAIはこの1年間、保護者と子供向けの安全機能を強化する措置を講じており、8月にはChatGPT for Teensと呼ばれる未成年者向けの専用エクスペリエンスを開始した。その製品には、発達上不適切な、あるいは有害なコンテンツへの露出を減らすことを目的とした、さまざまな教育機能や年齢に応じたセーフガードが含まれている。

「ティーンエイジャーは、学び、創造し、探求するためにAIを利用できるべきだ」と、OpenAIは当時のa releaseで述べている。「しかし、そのアクセスには、彼らの発達段階を反映し、現実世界の関係を強化し、長期にわたって健全な利用をサポートする保護が伴うべきだ」

自殺を考えている場合や苦しんでいる場合は、訓練を受けたカウンセラーによるサポートや支援を受けるため、Suicide & Crisis Lifelineの988番に連絡してください。

WATCH: 司法省、OpenAIに音声録音装置を設置した疑いでサウジアラビア国籍の男を逮捕と発表