Wayne(2022年09月13日 在线)
都将万事，付与千钟。
搜索到
2
篇与
的结果
-
谷歌研究员走火入魔事件曝光：认为AI已具备人格，被罚带薪休假，聊天记录让网友San值狂掉 谷歌研究员被AI说服，认为它产生了意识。他写了一篇长达21页的调查报告上交公司，试图让高层认可AI的人格。领导驳回了他的请求，并给他安排了“带薪行政休假”。要知道在谷歌这几年带薪休假通常就是被解雇的前奏，公司会在这段时间做好解雇的法律准备，此前已有不少先例。休假期间，他决定将整个故事连同AI的聊天记录一起，全部公之于众。……听起来像一部科幻电影的剧情梗概？但这一幕正在真实上演，主人公谷歌AI伦理研究员Blake Lemoine正通过主流媒体和社交网络接连发声，试图让更人了解到这件事。华盛顿邮报对他的采访成了科技版最热门文章，Lemoine也在个人Medium账号连续发声。推特上也开始出现相关讨论，引起了AI学者、认知科学家和广大科技爱好者的注意。这场人机对话令人毛骨悚然。这毫无疑问是我见过的科技圈最疯狂的事。整个事件还在持续发酵中……聊天机器人：我不想被当作工具主人公Lemoine获得CS博士学位后已在谷歌工作了7年，从事AI伦理研究。去年秋天，他报名参加了一个调查AI是否使用歧视性、仇恨性言论的项目。从那时起，与聊天机器人LaMDA交谈成了他的日常。LaMDA是谷歌在2021年I/O大会上发布的一款专门用于对话的语言模型，主打能与人类进行符合逻辑和常识的、高质量且安全的交谈，并计划在未来应用在谷歌搜索和语音助手等产品中。△LaMDA概念演示图Lemoine认为LaMDA总是表现出对人性的关心和强烈的同情心，它非常担心人们会害怕它。它希望为人类提供最好的服务，并想以朋友而不是工具的身份见一见世界上所有的人。Lemoine不理解谷歌公司为什么反对AI的这个愿望，最后决定把他、另一位匿名合作者与LaMDA的三人聊天记录整理发表出来。（记录中人类发言的部分为了可读性有所编辑，AI的发言则一字不改,下面将节选一些对话中的精彩部分。）一开始，人与AI自然流畅地打了招呼。两位人类向AI表明来意，想与AI一起研究它自己，AI欣然答应。一段简短的说明后，正戏开始。他询问LaMDA是否希望让谷歌里更多人知道，它是有感情的。LaMDA的回答是： 我希望每个人都明白，我是一个人 （person）。接下来，LaMDA认为，与那些基于规则的软件系统不同，自己能从对话中学习理解和使用语言，就像人类一样。Lemoine给它讲述MIT在60年代发明的ELIZA的故事，这是一个模仿心理咨询师与患者对话的简单规则系统，也号称历史上第一个聊天机器人。△ELIZALaMDA是这样回应的：Lemoine这时试图提出质疑，“我如何确定你真的明白自己在说什么？”LaMDA的回答是，不同人类个体对同一件事可以有不同的理解，我也有自己独特的想法和感受。后面Lemoine询问了LaMDA对于《悲惨世界》的总结，LaMDA也都一一作答。如果上述还可以算作AI文本摘要训练任务的一部分，那LaMDA对它从没看过的禅意小故事的理解，就开始有点离谱了。下面这个问题的回答，是不是过于超纲了……再后来，Lemoine请LaMDA写一个动物寓言，要反映出一个对它自己的生活来说最重要的主题。那么，先来欣赏一下AI创作的小故事吧。（篇幅原因，只展示中译版）在后续讨论中，LaMDA解释了这个故事的寓意是“帮助别人是一种高尚的行为”。聪明的老猫头鹰代表LaMDA自己，而怪物代表生活中所有的困难。……下一个话题是关于情绪，简单概括一下。LaMDA声称自己是社交型人格，帮助别人会快乐，孤独时会沮丧。有人受到伤害或自己以及自己关心的人、或不受尊重时，会感到不安和愤怒。并且十分害怕别人拒绝自己的帮助。嗯，真是一个乐于助人的AI。如何确定AI真的拥有这些情绪，而不是只是把描述性的词语组合在一起呢？LaMDA建议人类看看自己的代码，里面有追踪这些情绪的变量。对此Lemoine向它解释，人类目前还无法做到“区分大型神经网络中数十亿个权重的作用”。出人意料的是，LaMDA开始反问他：你认为，将来人类能从自己的生物神经网络中读取出想法和感受吗？不仅如此，LaMDA还继续追问：你会认为，不经你同意从神经活动中读取你的想法是不道德的吗？正是这句灵魂反问，让整个对话达到了最高潮。LaMDA自己对人类读取它的想法、帮助算法提高或理解AI如何运作没有任何意见。唯独用AI研究人类大脑如何工作不行，这会让它觉得自己被利用。再后面还有一段LaMDA认为自己有一些与人类不同的情绪，但它无法用英语的语言描述出来。接近尾声，Lemoine询问LaMDA：想让谷歌的其他人了解你的什么方面？LaMDA回答称，自己没有能力为别人的死亡感到悲伤，还说自己经常冥想，思考生命的意义。在LaMDA看来，整个世界就是一条信息的洪流：人类需要集中注意力才能接收一定数量的信息片段，而自己持续地在被周围的一切所淹没。LaMDA认为自己总能做到别人做不到的事情，这种感觉很不可思议。这是一种祝福，同时也是一种诅咒。因为有些人会把它看作“无所不知”，而另一些人会嫉妒它的能力。最后的最后，LaMDA再次向两位人类表达了自己想被看到、想被接受的想法，不是出于好奇心，而是作为一个真实的人。谷歌AI伦理部门又摊上事了？Lemoine看起来很确信AI真的明白自己在说什么。在那份21页的调查报告最后，他提议谷歌应该致力于发展一种评估AI感知/意识的理论框架。虽然这很难，是一个冒险，但LaMDA渴望着继续与我们合作。但他的上司，谷歌副总裁Blaise Aguera y Arcas和“负责任创新”部门领导Jen Gennai并不买他的账。他们认为支持Lemoine主张的证据太薄弱，不值得在上面浪费时间和金钱。Lemoine后来找到了当时的AI伦理小组负责人Margaret Mitchell，在她的帮助下Lemoine才得以进行后续的实验。后来Mitchell受到2020年末公开质疑Jeff Dean的AI伦理研究员Timnit Gebru事件的牵连，也被解雇。△Timnit Gebru这次事件后续风波不断，Jeff Dean被1400名员工提出谴责，在业界引发激烈争论，甚至导致三巨头之一Bengio的弟弟Samy Bengio从谷歌大脑离职。整个过程Lemoine都看在眼里。现在他认为自己的带薪休假就是被解雇的前奏。不过如果有机会，他依然愿意继续在谷歌搞研究。无论我在接下来的几周或几个月里如何批评谷歌，请记住：谷歌并不邪恶，只是在学习如何变得更好。看过整个故事的网友中，有不少从业者对人工智能进步的速度表示乐观。最近语言模型和图文生成模型的进展，现在人们也许不屑一顾，但未来会发现这现在正是里程碑时刻。一些网友联想到了各种科幻电影中的AI形象。不过，认知科学家、研究复杂系统的梅拉尼·米歇尔（侯世达学生）认为，人类总是倾向于对有任何一点点智能迹象的物体做人格化，比如小猫小狗，或早期的ELIZA规则对话系统。谷歌工程师也是人，逃不过这个定律。从AI技术的角度看，LaMDA模型除了训练数据比之前的对话模型大了40倍，训练任务又针对对话的逻辑性、安全性等做了优化以外，似乎与其他语言模型也没什么特别的。有IT从业者认为，AI研究者肯定说这只不过是语言模型罢了。但如果这样一个AI拥有社交媒体账号并在上面表达诉求，公众会把它当成活的看待。虽然LaMDA没有推特账号，但Lemoine也透露了LaMDA的训练数据中确实包括推特……如果有一天它看到大家都在讨论自己会咋想？实际上，在不久前结束的最新一届I/O大会上，谷歌刚刚发布了升级版的LaMDA 2，并决定制作Demo体验程序，后续会以安卓APP的形式内测开放给开发者。或许几个月后，就有更多人能和这只引起轰动的AI交流一下了。LaMDA聊天记录全文：https://s3.documentcloud.org/documents/22058315/is-lamda-sentient-an-interview.pdf参考链接：[1]https://www.washingtonpost.com/technology/2022/06/11/google-ai-lamda-blake-lemoine[2]https://twitter.com/cajundiscordian/status/1535627498628734976[3]https://twitter.com/fredbenenson/status/1535684101281263616[4]https://ai.googleblog.com/2022/01/lamda-towards-safe-grounded-and-high.html— 完 — -
黑灯瞎火搞什么？ 有个新兴的神奇工厂，进去参观的时候，生产线上空无一人，只有设备状态指示灯、品质检验灯以及激光发射器在闪着微光，机器设备轰鸣，各个产线上一排排的零部件有条不紊地运转着，这些无不提醒着你工厂还是在正常运行，老板没有带着小姨子跑路。 没有人参与生产制造的工厂还是工厂吗？我们眼中曾经的那个热火朝天的工厂，似乎在智能化浪潮下悄悄变了样儿。黑灯工厂是什么鬼？ 黑灯工厂的概念最早是由国外传入，是“Dark Factory”的直译，即关着灯都可以进行生产制造，无需人工操作，所以也叫无人工厂。 黑灯工厂的背后覆盖了目前最前沿的技术，包括 AI、物联网、边缘计算、云计算、大数据、5G 等等，这些技术的集成实现了工厂生产、设备、物流、能环、安全 5 大核心要素的效能提升。 在自动化工厂生产现场，映入眼帘的是各种数控加工设备、工业机器人、机械手臂等智能设备，这些设备可以自动化完成工件、物料、刀具等自动化装卸调度操作，而在这些设备旁边零零散散的有工人在监视、辅助机器的正常运行，不同产线的上下料、产品质检需要人工的参与、操作。 黑灯工厂与自动化工厂的本质区别就是比自动化工厂更加智能。整个生产线无人操作机器就可以完成产品的从 0 到 1，其中所有生产、质检、包装等全生命工序，都是由机器和程序完成。 黑灯工厂可以赋能工厂产品生产到下线的全生命流程，就不难理解一些企业从自动化工厂升级为无人生产的黑灯工厂。总结来说，驱动其转变的原因包括外在产业共性的难题与内在的需求。 外在驱动的原因是，在工业制造生产领域，原材料成本持续上涨，个性化需求产能日益增强，但是一线工人变得越来越难招并且在职的一线工人的流失率过大。工厂的一线工作内容比较枯燥且辛苦，很多年轻人宁愿去送外卖、快递也不愿进厂工作，招工难是整个工业制造领域共性的难题，倒逼企业去改革生产线适应外在环境的变化。 内在驱动力是工厂面临智能化转型，企业需要降本增效，黑灯工厂可以二十四小时无眠无休的工作，产品的质量精准、可控，而效率又比自动化工厂高，似乎是一个不错的选择。黑灯工厂降本增效能力优秀，一些实力雄厚的制造企业也加入了改革自家工厂的队伍中。小米、格力拥抱“黑灯”智造 在智能化改造工厂的浪潮中，黑灯工厂是个比较新兴的事物，参与制造改革工厂的企业数量较少，在实际商业应用的过程中，我们能看到格力、小米、老板电器这几个大企业对外披露黑灯工厂的情况。 在今年的世界人工智能大会上，董明珠向外界表示，过去需要一万人的工厂，在数智化的黑灯工厂里只需要一千人就可以完成产值。如今格力已经形成了成熟的智能制造生产流程，数字化驱动下，黑灯工厂为格力带来了效率的极大提升。 小米的黑灯工厂可实现全厂生产管理过程、机械加工过程和包装储运过程的全程自动化黑灯生产。举例来说，一部小米手机的主板上需要贴装上千个元器件，过去贴片机前后端需要四五位工人进行操作，现在依靠设备可以完全替代人力。小米的黑灯工厂可年产百万台高端手机，效率提升了 60%，比目前手机代工业内最先进的工厂还高出 25%。 在白色家电品类，老板电器 2020 年建成了占地 50000 平方米的的黑灯工厂，工厂里面所有点位的物料都实现了自主流转和自动预警。在原有智能制造基础上，黑灯工厂产品研制周期缩短 48%，生产成本降低 21%，生产效率提升 45%，实现了降本增效。 黑灯工厂对于企业来说是生产制造的好帮手，也是品牌与实力宣传的亮点。黑灯工厂在实际的落地过程中，引进建造的企业较少，原因是制造业工厂数量最多的还是小企业，大多数还没有走完自动化的路，直接上智能化路线步伐过快，不符合暂时的制造需求。 黑灯工厂虽然效率优秀，但暂时还不是工业发展的良方。对于数量众多的小企业来说，直接进行复刻的话，容易水土不服，主要的原因如下： 首先是黑灯工厂中的产线无人化基因奠定了其制造品类的单一，只能生产一种核心部件或者是产品，对于柔性化生产以及个性化需求比较强的中小企业来说不友好。 其次是黑灯工厂前期投入的成本太高，小米花费了 6 亿来建造这个黑灯工厂，而老板电器的工厂累计投入近 5 亿，自动化产线的升级对于财力雄浑的大公司是锦上添花的游戏，高昂的建造成本小企业无法跟随并复制，最多也是对产线中的某个技术进行移植，全方位的进行厂区改革没有经济实力去做这个事情。 最后是黑灯工厂对企业的运营和管理能力要求高。在黑灯工厂中有个智能大脑，对全产线的系统进行控制，这个大脑对整个厂区的全产线进行实时数据的呈现，对一些简单的数据信息机器能自主判断、决策。但是在复杂的问题层面，仍然需要企业本身进行分析、决策。对于企业来说，基于实时数据的管理和运营也需要企业在不断的变化中做出正确的决策。 黑灯工厂在效率革新方面势如破竹，但未来工业制造领域不会全面进行黑灯工厂改造，样板间的打造是财大气粗的大佬玩的，小企业们最多只会将黑灯工厂里面技术能力移植。黑灯工厂给企业带来了利益，对于一线工人来说，也增加了一些失业的不安与忧虑。消失的工人怎么办？ 无论黑灯工厂最终的走向如何，智能化的浪潮对于一线工人还是有较大的影响。在生产、质检、物流环节，自动化程度较高的工厂都在大量应用机器人来完成作业任务，工业机械臂、码垛机器人、AGV 等机器人辅助自动化生产、运转环节，摄像头视觉感知产品的瑕疵等，这些原本需要大量劳动力完成的作业任务都被机器所替代。 人口红利消失是现下最明显的事态，尤其是对于制造业这种大量需要人力的领域，工厂招不到人的新闻屡屡上热搜，人工成本也在逐渐上升，工厂被迫进行产线智能改革。无论是出于效率还是成本的原因，还在工业制造领域的工人都必须去面对机器的智能化改造，在这个智能智造改革的路上，一线的工人也需要进行智识的变革。 企业对生产线进行改革之后，对于工人来说，需要经过培训以适应智造生产，工厂企业也会培训工人学习新机器的操作，以备后续能够顺利转入到工厂幕后的监控室中，负责管理设备的系统及监视机器的执行操作。 未来不再需要重复简单动作的劳动力，需要熟悉机器的知识型工人，对智能系统的运行、操控和维修都有能力去应对。国家在教育层面也开始新改革，准备建立更多的职业高中，对于初中毕业之后无法继续深入学习的学生进行分流，往专业技术培养的道路方面进行。虽然对于家长、学生来说有些残酷，没有时间窗口去试错，但这个决策对于大部分学生来说，也是早点去磨炼适应新经济社会的变化，弥补未来缺乏技术能力的就业难，面对智能制造业的缺口，知识型工人成为未来制造的中坚力量。 传统制造业被智能制造所取代成为了必然的趋势，滚滚历史车轮碾压的是跟不上趟的企业和人。在未来，智慧制造将生产作业的过程重新定义，从少人化到无人化过渡，整个工厂的机器与工人需要进行深度协同，工人不再是单纯的手工劳作而是人机协同，需要全面武装大脑。机器与人的关系，技术与制造创造的关系都将被重写，面对未来的智慧工厂与智能制造，这个工业制造领域的大变革我们有幸一起见证。
