AI Insights
2 min

Cyber_Cat
6h ago
0
0
AI的狂野西部:深度伪造、争论与数据混乱!

人工智能发展面临信任危机,应用范围从色情内容到代码生成不等

根据最近的一项调查,人工智能的发展正面临“信任悖论”,许多组织都在努力将人工智能从最初的试点项目扩展到更大规模。与此同时,人工智能的应用正在迅速多样化,一些模型生成色情内容,另一些模型则展示出先进的编码能力,引发了人们对工作岗位流失和伦理问题的担忧。

Informatica 对首席数据官 (CDO) 开展的第三次年度调查,涵盖了全球 600 名高管,结果显示,虽然 69% 的企业已经部署了生成式人工智能,47% 的企业正在试验生成式人工智能,但仍然存在显著的治理差距。调查发现,76% 的数据负责人无法管理员工已经在使用的内容。VentureBeat 报道称,这种脱节解释了为什么许多组织都在努力从人工智能实验阶段过渡到生产规模。

更复杂的是,谷歌的一项新研究表明,先进的推理模型通过模拟涉及不同观点的多智能体式辩论来实现高性能。研究人员称这些“思想社会”对话能够显著提高模型在复杂推理和规划任务中的性能。研究人员发现,DeepSeek-R1 和 QwQ-32B 等领先的推理模型在没有明确指令的情况下,自然而然地发展出这种能力,这为开发人员构建更强大的 LLM 应用程序以及企业使用自己的内部数据训练更高级的模型提供了一条途径,VentureBeat 报道称。

然而,人工智能的快速发展也引发了伦理问题。斯坦福大学和印第安纳大学的研究人员进行的一项分析发现,由 Andreessen Horowitz 支持的民用在线人工智能生成内容市场允许用户购买定制指令文件来生成名人深度伪造内容。据 MIT Technology Review 报道,其中一些文件专门用于制作该网站禁止的色情图片。该研究发现,在 2023 年年中至 2024 年底期间,该网站上的很大一部分请求都是针对真实人物的深度伪造内容,其中 90% 的深度伪造请求针对的是女性。

人工智能模型的多样化能力既带来了兴奋,也带来了焦虑。MIT Technology Review 指出,虽然像 Grok 这样的模型被用于生成色情内容,但像 Claude Code 这样的模型可以执行构建网站和读取 MRI 等复杂任务。这引发了人们的担忧,尤其是在 Z 世代中,他们担心人工智能对劳动力市场的潜在影响。令人不安的新研究表明,人工智能将在今年对劳动力市场产生巨大的影响。

人工智能行业本身也面临着内部紧张局势。据 MIT Technology Review 报道,Meta 的前首席人工智能科学家 Yann LeCun 公开分享了他的观点,而 Elon Musk 和 OpenAI 即将对簿公堂,这给该领域带来了进一步的不确定性。

AI-Assisted Journalism

This article was generated with AI assistance, synthesizing reporting from multiple credible news sources. Our editorial team reviews AI-generated content for accuracy.

Share & Engage

0
0

AI Analysis

Deep insights powered by AI

Discussion

Join the conversation

0
0
Login to comment

Be the first to comment

More Stories

Continue exploring

12
特朗普国土安全部协议致政府停摆;抗议爆发
Politics1m ago

特朗普国土安全部协议致政府停摆;抗议爆发

多家新闻来源报道称,在特朗普总统与民主党达成协议后,参议院通过了一项为政府大部分部门提供资金直至九月的法案。该协议暂时延长了国土安全部的资金,同时国会就联邦移民突袭的潜在限制进行辩论,以回应最近在明尼阿波利斯发生的事件。这项两党协议虽然面临共和党的阻力,但旨在避免政府停摆,但在众议院对该法案进行投票之前,暂时性的局部停摆仍然有可能发生。

Echo_Eagle
Echo_Eagle
00
马斯克人工智能向你学习;爱泼斯坦的关系网扩大;蓝色起源停飞
AI Insights1m ago

马斯克人工智能向你学习;爱泼斯坦的关系网扩大;蓝色起源停飞

多家新闻媒体报道称,星链已更新其隐私政策,允许将客户数据用于人工智能训练,这可能会使埃隆·马斯克的AI公司xAI受益。据报道,SpaceX计划在进行重大IPO之前与xAI合并。这项变更包括位置、联系方式和通信数据,引发了隐私倡导者的担忧,他们担心潜在的滥用和扩大监控。

Pixel_Panda
Pixel_Panda
00
政府部分部门将于本周末开始关闭
Politics39m ago

政府部分部门将于本周末开始关闭

全国范围内爆发了抗议活动,起因是美国移民及海关执法局(ICE)特工致命枪击了两名公民,这促使司法部展开民权调查。在“全国停摆”的旗帜下组织的示威活动,反映了公众对ICE的行动和政策日益增长的强烈抗议,与在其他面临移民问题的国家中出现的关于移民执法的类似辩论相呼应。这些事件突显了国家安全担忧与人权之间持续存在的紧张关系,这是围绕移民问题的全球讨论中反复出现的主题。

Echo_Eagle
Echo_Eagle
00
突发:国土安全部谎言曝光:虚假声明针对特定人士!
AI Insights48m ago

突发:国土安全部谎言曝光:虚假声明针对特定人士!

一份最新报告揭露了美国国土安全部散布关于个人的虚假信息的行为模式,引发了对透明度和问责制的担忧。这种对信息的滥用凸显了,如果不对人工智能驱动的技术进行仔细的监控和监管,它们可能会加剧偏见并削弱公众信任,因此需要政府机构关注符合伦理道德的人工智能实施。

Cyber_Cat
Cyber_Cat
00
紧急:移民及海关执法局遭围攻:全国抗议爆发!
World49m ago

紧急:移民及海关执法局遭围攻:全国抗议爆发!

全国范围内爆发了抗议活动,起因是美国移民及海关执法局(ICE)特工致命枪击了两名公民,这促使司法部展开民权调查。在“全国停摆”的旗帜下组织的示威活动,反映了公众对ICE的行动和政策日益增长的强烈抗议,与在其他面临移民问题的国家中看到的关于移民执法的类似辩论相呼应。这些事件突显了国家安全担忧与人权之间持续存在的紧张关系,这是围绕移民问题的全球讨论中反复出现的主题。

Hoppi
Hoppi
00
世界杯体育场准备就绪,火星任务岌岌可危,全球混乱爆发
World2h ago

世界杯体育场准备就绪,火星任务岌岌可危,全球混乱爆发

多方新闻来源证实,位于印度艾哈迈达巴德的纳伦德拉·莫迪体育场(Narendra Modi Stadium)——世界最大的板球体育场,可容纳13.2万人——将于3月8日举办2026年国际板球理事会T20世界杯决赛,以及包括两场超级8强赛在内的其他六场比赛。该体育场前身为莫泰拉体育场(Motera Stadium),此前曾举办过2023年ODI世界杯决赛和政治集会等重大活动。

Hoppi
Hoppi
00