solidot新版网站常见问题,请点击这里查看。
人工智能
Wilson(42865)
发表于2023年10月25日 23时59分 星期三
来自沙皇的邮件
在接连发生两起安全事故之后,加州机动车辆管理局 (DMV) 宣布暂停 Cruise 的无人驾驶出租车业务,撤销了无人驾驶的测试许可。今年 8 月一辆 Cruise 汽车撞上了消防车,导致一人受伤。本月早些时候,一辆汽车将一位行人撞倒在行驶中的 Cruise 汽车前面,汽车探测到了碰撞,停了下来,然后脱离公路,将行人拖曳了大约 20 英尺,当汽车最终停下来时其轮胎可能压在了行人的腿上,视频显示这位行人一直在尖叫求助。美国国家公路交通安全管理局(NHTSA)已对 Cruise 展开调查,调查该公司是否采取足够的预防措施保障行人的安全。加州 DMV 认为允许 Cruise 继续测试对公众不安全。Cruise 如果想要继续运营其出租车业务,汽车上将必须有一位司机。

人工智能
Wilson(42865)
发表于2023年10月25日 23时20分 星期三
来自失眠
芝加哥大学计算机科学教授 Ben Zhao 领导的一个团队开发了一种数据中毒工具 Nightshade,允许艺术家在将作品上传到网上前使用该工具在像素中添加不可见的改动,如果作品被抓取到 AI 训练数据集中,它会导致模型以混乱且不可预测的方式崩溃。该工具旨在反击 AI 公司未经作者许可使用其作品训练 AI 模型的行为。训练数据中毒可能会破坏图像生成模型如 DALL-E、Midjourney 和 Stable Diffusion 的未来迭代,它会导致部分输出无用——狗变成猫,汽车变成牛,诸如此类。相关论文已递交到 Usenix 计算机安全会议接受同行评审。Zhao 表示,他希望数据中毒工具有助于将权力平衡从 AI 公司转向艺术家。他的团队还开发了另一种工具 Glaze,帮助艺术家隐藏个人艺术风格,防止被 AI 公司抓取。它的工作方式与 Nightshade 类似。研究团队计划将 Nightshade 整合到 Glaze 中,并将其开源,让其他人能开发自己的版本。大型 AI 模型使用的训练集可能包含数十亿幅图像,其中的有毒图像越多,造成的破坏就会越大。数据集一旦中毒是很难清理的,它需要公司努力找出并删除每一个损坏的样本。

人工智能
Wilson(42865)
发表于2023年10月25日 15时49分 星期三
来自奇迹男孩与冰霜巨人
英伟达向 SEC 递交文件称,美国政府要求它立即停止向中国出口先进 AI 芯片,而不是原计划的 10 月 17 日起的 30 天后生效。立即限制出口的产品包括 A100、A800、H100、H800 和 L40S,此前列入限制出口的旗舰显卡 RTX 4090 仍然会是 30 天后生效。英伟达称,由于需求强劲,限制向华出口在短期内不会对公司业绩产生显著影响。