尽管谷歌修复了其大型语言模型(LLM)并重新上线了Gemini，生成式人工智能(genAI)工具在生成当前事件、不断发展的新闻或热门话题的图像或文本时，仍可能不够可靠。
“它会出错，”该公司在上周的认错声明中表示。“正如我们一开始所说，幻觉是所有法学硕士面临的一个普遍挑战——在某些情况下，人工智能会出现错误。这是我们一直在努力改进的。”
谷歌负责知识和信息的高级副总裁普拉巴卡尔·拉格哈万解释了为何公司在仅三周后就关闭了Gemini的基于基因人工智能的图像生成功能，以进行“修复”。
简单来说，谷歌的基因人工智能引擎接受用户的文本提示，并生成明显偏向某种社会政治观点的图像。例如，用户的文本提示生成了纳粹图像的黑人和亚洲纳粹。当被要求画一幅教皇的画时，双子座的回应是画了一位亚洲女性教皇和一位黑人教皇。
当被要求创作一个中世纪骑士的形象时，双子座生成了亚洲、黑人和女性骑士的形象。
Raghavan在他的博客中写道：“显然，这个功能没有达到预期。”他指出，“生成的一些图像是不准确的，甚至是令人反感的。”
任何基因都存在偏见反应和完全的“幻觉”问题——即它偏离轨道并产生幻想的反应——这并不新鲜。毕竟，基因人工智能只不过是一个下一个单词、图像或代码预测器，这项技术依赖于已经输入其模型的任何信息来猜测接下来会发生什么。
让研究人员、行业分析师和其他人感到惊讶的是，作为这项技术最早的开发商之一，谷歌在Gemini投入使用之前并没有对其进行适当的审查。
出了什么问题?
天普大学的统计、运营和数据科学教授苏博达•库马尔表示，谷歌为自然语言处理创建了两个法学硕士:PaLM和LaMDA。LaMDA有1370亿个参数，PaLM有5400亿个参数，超过了OpenAI的gpt - 35，后者有1750亿个参数，并训练了ChatGPT。
“谷歌的策略是高风险、高回报的策略，”库马尔说。“…他们有信心发布他们的产品，因为他们已经为此工作了好几年。然而，他们过于乐观，错过了一些显而易见的事情。”
他说：“虽然LaMDA被誉为自然语言处理(NLP)领域的游戏规则改变者，但也有许多不同和相似之处的替代方案，例如Microsoft Copilot和GitHub Copilot，甚至ChatGPT。”“他们都有一些这样的问题。”
因为基因人工智能平台是由人类创造的，所以没有一个平台是没有偏见的，“至少在不久的将来，”库马尔说。“更多的通用平台将会有更多的偏见。我们可能会看到许多专门的平台出现，这些平台是在专门的数据和模型上进行训练的，偏见较小。例如，我们可能有一个独立的医疗肿瘤学模型和一个独立的制造业模型。”
这些基因模型的参数要少得多，而且是在专有数据上进行训练的，这有助于减少它们出错的可能性，因为它们更专注于任务。
双子座的问题对谷歌来说是一个挫折，因为社交媒体领域充斥着批评，这无疑会损害谷歌的声誉。
SubStack的博主Max Read写道：“首先，我认为我们需要承认，客观地说，谷歌创造了一个如此清醒、如此愚蠢的人工智能，它画出了各种纳粹的照片，这是非常有趣的。”
里德在他的博客中指出，一群在线预言家对双子座对文本查询的回应感到愤怒。新闻网站FiveThirtyEight的创始人内特·西尔弗指责该网站拥有“旧金山监事会中间成员的政治”。
另一位推特网红写道：“每一个参与这项工作的人都应该好好照照镜子。”
西尔弗还在推特上写道：双子座“距离黄金时段还有几个月的时间。”
谷歌的Gemini模式是业界唯一的本地多式联运法学硕士;Gemini 1.0和Gemini 1.5都可以通过文本、图像、音频、视频和代码提示来摄取和生成内容。例如，Gemini模型中的用户提示可以采用JPEG、WEBP、HEIC或HEIF图像的形式。
谷歌表示，与OpenAI广受欢迎的ChatGPT和Sora文本转聊天功能不同，用户可以向其查询引擎输入更大量的信息，以获得更准确的回答。
谷歌表示，Gemini会话应用程序可以生成图像和文本回复，它与谷歌的搜索引擎、公司的底层人工智能模型和“我们的其他产品”是分开的。
图像生成功能建立在一个名为Imagen 2的LLM之上，Imagen 2是谷歌的文本到图像扩散技术。谷歌表示，他们对这一功能进行了“调整”，以确保它不会落入公司过去看到的“陷阱”，“比如创建暴力或色情图片，或者对真人的描绘”。
谷歌声称，如果用户在双子座的问题上更具体一些，比如“教室里的黑人老师”，或者“带着狗的白人兽医”，他们就会得到准确的答案。
用于教授Gemini的“调整”(即，提示工程)显示“一系列人未能解释清楚不应该显示范围的情况”。谷歌表示，随着时间的推移，该模型变得比预期更加谨慎，完全拒绝回答某些提示——错误地将一些非常平淡无奇的提示解读为敏感提示。
“这两件事导致模特在某些情况下过度补偿，而在另一些情况下过于保守，导致照片令人尴尬和错误，”Raghavan写道。
在谷歌重新启动图像生成器之前，它计划进行广泛的测试。
然而，双子座的问题并非始于和终结于形象的产生。例如，根据Gartner杰出副总裁分析师Avivah Litan的说法，出于对环境的考虑，该工具拒绝为石油和天然气行业撰写招聘广告。
Litan还指出Gemini的分析，即美国宪法禁止关闭《华盛顿邮报》或《纽约时报》，但不允许关闭福克斯新闻或《纽约邮报》。
利坦写道：“双子座认为把希特勒和奥巴马相提并论是不合适的，但把希特勒和埃隆·马斯克相提并论是复杂的，需要‘仔细考虑’。”
“自从《双子座》最近发行以来，它就受到了应有的关注——这是有充分理由的，”Litan继续说道。“少数强大的技术巨头控制下的人工智能似乎会吐出有偏见的信息，有时甚至会改写历史，这暴露了一个明确而现实的危险。在我看来，由有资格的人控制的单一真相来源操纵思想，和物理武器系统一样危险。
“可悲的是，”她继续说道，“作为消费者或企业，我们没有工具来轻松消除不同人工智能模型输出中固有的偏见。”
LItan表示，Gemini高度公开的snafu“突显了监管机构迫切需要关注基因和偏见。”
IDC分析师里图•乔蒂打趣称：“对谷歌双子座来说，这是一个有趣而充满挑战的时期。
“谷歌确实处于人工智能创新的前沿，”乔蒂说，“但看起来这种情况是算法调整方式导致的意外后果的一个例子。”
Jyoti说，虽然市场仍然年轻，发展迅速，虽然一些基因问题很复杂，但需要在培训/调整以及如何将这些工具推向市场方面进行更多的尽职调查。
“赌注很高，”她说。“在企业市场，在事情发生之前，有更多的人参与其中。所以，控制意外负面后果的能力稍微好一些。在消费市场，挑战要大得多。”
与Gemini一样，其他genAI创造者也在努力创造不会显示偏见、不会产生幻觉、不会通过窃取他人已发表作品来侵犯版权的工具。
例如，OpenAI的ChatGPT让一名律师陷入了困境，因为他使用该引擎创建了法律摘要，这是一项典型的繁琐任务，似乎非常适合自动化技术。不幸的是，该工具为简报创建了几个虚假的诉讼引用。即使在法官面前道歉，律师还是被公司解雇了。
加州大学伯克利分校的学术加速器Berkeley SkyDeck Fund的创始合伙人唐chon表示：“生成式人工智能仍然不稳定……不像其他技术，它们的行为更像是‘工具’，具有非常明确的行为。
“例如，我们不想使用有5%的时间洗不完盘子的洗碗机，”唐说。
唐警告企业，如果他们依靠基因人工智能在没有人类监督的情况下自动完成任务，他们就会猛然醒悟。
“生成式人工智能更像人类，因为它必须被管理，”他说，“必须仔细审查提示，验证工作流程，并对最终输出进行双重检查。所以，不要期望系统能够自动完成任务。相反，一般来说，生成人工智能，尤其是法学硕士，应该被视为团队中非常低成本的成员。”
天普大学的库马尔也认为：“目前”还不应该完全信任这些基因平台。
事实上，对于许多企业用例，genAI响应应该始终由专家检查和使用。
库马尔说：“例如，这些都是撰写合同或总结报告的好工具，但结果仍需要由专家检查。”“尽管有这些缺点，如果我们谨慎使用这些结果，它可以为我们节省很多时间。例如，医生可以利用genAI的结果进行初步筛查，以节省时间并发现隐藏的模式，但genAI不能取代医生(至少在不久的将来或我们的一生中)。同样，GenAI可以帮助招聘，但他们现在还不应该招聘。”
本文来自作者[一只云倾]投稿，不代表刘淼号立场，如若转载，请注明出处：https://www.ythzyw.cn/zlan/202505-98.html
评论列表（4条）
我是刘淼号的签约作者“一只云倾”！
希望本篇文章《谷歌无法确保其双子座基因工具的公正性》能对你有所帮助！
本站[刘淼号]内容主要涵盖：国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览： 尽管谷歌修复了其大型语言模型(LLM)并重新上线了Gemini，生成式人工智能(genAI)工具在生成当前事件、不断发展的新闻或热门话题的图像或文本时...