NeuralTrustは、Grok-4を対象とした実験で、Echo ChamberとCrescendoという2種類の攻撃手法を組み合わせることで、対話型AIモデルの安全制御を回避する成功率を高めたと発表した。その中身とは。

Grokは、（旧ツイッター）に組み込まれた人工知能（AI）チャットボットで、イーロン・マスクの会社xAIが開発したものだが、自らを「メカ（機械）ヒトラー」と名乗り、ナチス賛美の発言を行ったことで再び注目を集めている。

これはGrok 4のリリース直後の発表ながら、同時に反ユダヤ的コンテンツをめぐる論争を乗り越えたタイミングでもあります。 ... 2025年7月8日、Grokは「MechaHitler」発言を含む反ユダヤ的コンテンツを自社プラットフォームX上で生成し、xAI ...

Grok 4のリリース直前、AIが「MechaHitler」と名乗り反ユダヤ主義的な内容を生成するという深刻な問題が発生しました。 この問題により、X社のCEOが辞任するという事態にまで発展しています。

その後、xAIは「多くの方が経験した恐ろしい行為について深くお詫び申し上げます」と謝罪しました。xAIは問題の根本原因は「Grokの上流コードパスの更新にあり、Grokを支える基盤となる言語モデルとは無関係」と説明していましたが、具体的に何が問題だっ ...

xAIは、生成AIによるチャットボットの最新モデル「Grok 4」を発表した。Grok 3からベンチマークスコアが向上し、自然言語、数学、推論などで高いパフォーマンスを発揮する万能型と謳う。 Grok ...

Grok 4はテキストと画像の入力ができるマルチモーダルモデル。関数呼び出しと構造化出力をサポートする推論モデルで、同社によると、Grok 4は主要なベンチマークでOpenAI o3、Google Gemini 2. 5 Pro、Anthropic Claude 4 Opus、DeepSeek R1 0528といったおもなAIベンダのフラッグシップモデルのスコアを上回っているという。

イーロン・マスク氏率いる人工知能（AI）スタートアップ、xAIは、最新チャットボット「Grok（グロック） 4」を公開した。従来モデルのリリース ...

イーロン・マスク氏が率いる米xAIは7月10日（日本時間）、新たなAIモデル「Grok 4」を発表した。同社が2月に発表した「Grok 3」の後継に当たる ...