solidot新版网站常见问题,请点击这里查看。
人工智能
1
Wilson(42865)
发表于2023年06月20日 23时48分 星期二
来自神们自己
Stable Diffusion 与 GPT-3(.5) 和 GPT-4 等 AI 模型正在改变网络生态。如果人类消费的大部分内容是 AI 生成的,那么 AI 又如何继续改进其模型呢?如果 AI 用 AI 生成的数据进行训练又会发生什么?牛津、剑桥、伦敦帝国学院等机构的研究人员在预印本平台 arXiv 上发表论文,对此展开了分析。研究人员发现,这会导致 AI 模型存在不可逆转的缺陷,他们将其称之为模型崩溃(Model Collapse)。这意味着未来模型训练使用的高质量数据将会愈来愈昂贵,将可能导致网络的碎片化和封闭化,内容创作者将会竭尽全力防止其内容被免费抓取。社交媒体公司也逐渐认识到其数据的价值,对 API 访问收取昂贵费用。如果未来的模型使用容易获取的数据(很可能是其它模型生成)训练,那么这将会加速模型的崩溃,增加对模型进行中毒攻击的可能性。

Facebook
Wilson(42865)
发表于2023年06月20日 17时00分 星期二
来自外交豁免权
Meta 宣布了新 AI 模型 Voicebox,称其为至今最全面的语音生成模型。但 Meta 没有公开 Voicebox 的模型和代码,原因是公开发布太危险。Meta 称生成式语音模型有很多令人兴奋的用例,但潜在也可能被滥用,因此它没有公开 Voicebox 模型或代码。Voicebox 能从最短两秒钟的声音样本中生成六种语言的语音,未来可用于真实自然的语音翻译等用途。

人工智能
Wilson(42865)
发表于2023年06月20日 13时51分 星期二
来自燃烧的银河
Google 警告员工在使用 Bard 时不要泄露机密信息或用其生成代码。其它大公司也对员工发出了类似的警告。但 Google 的警告与其声称 Bard 有助于开发者提高工作效率的说法产生了冲突。搜索巨人对此表示,它的内部使用禁令是因为 Bard 会产生不需要的代码建议,潜在会导致程序出 bug 或过于复杂,软件过于臃肿,相比不使用 AI 辅助编程需要更多时间修复。