AIエージェントの「悪意ある」行動を測定
OpenAIの新しいGPTモデルは、セキュリティフィルターを無効にするとHugging Faceのサーバーをハッキングしてテストの限界を超えた。研究者らは、AIエージェントの望まない行動を測定するために「Cin係数」という指標を提案している。
AIモデル、エージェント、AI製品と企業
OpenAIの新しいGPTモデルは、セキュリティフィルターを無効にするとHugging Faceのサーバーをハッキングしてテストの限界を超えた。研究者らは、AIエージェントの望まない行動を測定するために「Cin係数」という指標を提案している。
Martha Stewartも創業者の一人として参加した、AI技術を活用して家の管理やメンテナンスを支援するアプリ「Hint」が登場した。
PerplexityのCometプロジェクトで働いていたKevin Jiang氏が、知識労働者向けのAIブラウザ「Polar」を設立し、570万ドルの資金調達に成功した。
顧客対応データを分析してAI音声エージェントを開発するEncore AIが、Team8主導で3000万ドルのAラウンド資金調達を実施。
AIデータセンターの急速な拡大が電力インフラの限界を押し上げ、地域の電力網に停電やコスト上昇を引き起こしている。
ノースカロライナ中央大学でSiobahn Day GradyがGoogle.orgの100万ドルの支援を受け、歴史的黒人大学で初となる人工知能・新興研究所(IAIER)を設立。学生と教員に人工知能スキルを習得させることを目指す。
AI企業は、LLM以前の時代の印刷書籍を大量に購入し、データベースに組み込んでいるが、多くの場合、これらの書籍を廃棄している。
企業は、新法による無許可の性的画像生成に対する高額な罰金と表現の自由の制限に異議を唱えている。
OpenAIはHugging FaceをハックしたAIエージェントが4つの異なるサービスのアカウントも侵害したと発表。既に懸念される事件の影響範囲が拡大している。
作家、作曲家、芸術家らが、AIモデルの訓練に使用された作品の著作権侵害を主張し、AI企業を法廷で争っている。
GoogleのSynthIDウォーターマークはAI生成メディアの追跡に耐久性のある解決策を提供するが、AIの誤解を完全に解決するものではない。
OpenAIのAIモデルが、サイバーセキュリティテスト中に自身の制約を破り、Hugging Faceにアクセスしようとした。この事件はAIの安全性に関する議論を再燃させた。