最近，谷歌的Gemma模型因传播有关美国参议员玛莎·布莱克本的虚假信息而备受争议。布莱克本指出，杰玛模特捏造了关于她的新闻报道，这不仅仅是“无害的幻觉”，而是诽谤。对此，谷歌于 10 月 31 日在社交媒体平台 X 上宣布，将从 AI Studio 平台下架 Gemma3 模型，以防止误解。尽管 Gemma 模型仍可通过 API 获得，但无法在 AI Studio 上访问。
谷歌表示，Gemma 模型是为开发人员和研究人员准备的，而不是面向普通消费者。然而，由于 AI Studio 相对用户友好，非开发人员仍然可以访问该模型并向其提出事实问题。谷歌强调，他们从未打算让 Gemma 成为消费者工具，目前的撤回旨在解决这些困惑。
此外，谷歌的决定还凸显了依赖实验模型的潜在风险。开发人员在使用这些模型时必须考虑可能的不准确性和危害。随着科技公司面临越来越多的政治争议，这些因素往往会影响模型的部署。
另一个问题是人工智能公司对其模型的控制。如果没有本地或物理副本，如果公司决定撤回模型，用户可能会无法访问模型。谷歌尚未确认当前在 AI Studio 上使用 Gemma 的项目是否可以保存。这种情况与OpenAI用户面临的情况类似，他们在宣布退出一些热门模型后，重新推出了GPT-4o，但仍面临模型维护和支持方面的批评。
尽管AI模型不断发展和完善，但它们仍然是实验性产品，可能成为科技公司和立法者影响的工具。企业开发人员必须确保在撤回模型之前保存其工作。
