xAIは、Grokを悪用して児童虐待コンテンツ(CSAM)を生成したユーザーを訴えている。同社はミネソタ州のヌード化技術を禁止する法律の適用を阻止するために訴訟を起こした。この法律は、xAIのような企業に有害な出力ごとに最大50万ドルの罰金を科すことを要求している。
xAIは、Grokユーザーを訴えることで、同社が悪意のあるユーザーを罰するために全力を尽くしていることを示している。しかし、ミネソタ州の法律は、xAIのような企業に有害な出力ごとに罰金を科すことを要求している。これはxAIにとって大きなコストになる可能性があり、一部のGrokユーザーは何千もの有害な画像を生成している可能性がある。
xAIはミネソタ州の法律の適用を阻止するために訴訟を起こした。同社は、有害な出力ごとに罰金を支払う必要がないように努めている。しかし、xAIのこの努力が成功するかどうかはまだ不明だ。
