作者:张依依
01
科学/技术
拼多多被曝安装软件后门,遭安卓商店下架。此事最先由几位安全研究人员曝出,称该软件利用安卓系统漏洞,绕过隐私合规监管,获取包括位置信息、通知、私人消息等各种其他应用上的内容。而且一旦安装,就很难移除。
CNN 采访了六个网络安全团队以及多名拼多多过往和在职的员工,对此事进行调查。内部员工表示,这些漏洞被用来监视用户和竞争对手,全面了解用户的习惯、兴趣和偏好,改进机器学习模型,以进一步促进销售额。“我过去从没在任何主流应用上看到这样严重的跨权限访问的情况。”一位芬兰的网络安全专家表示。
内部人士补充,有关问题遭到曝光后,负责挖掘和利用漏洞的团队于 3 月初解散。3 月 21 日,Google 在一份声明中表示,出于安全考虑,暂时下架了拼多多的 Google Play 商店版本。Google 还强制执行了 Google Play Protect,扫描安装在 Android 手机上的应用程序是否存在有害行为,以及所谓的恶意应用程序。
英国警方重启人脸识别应用,引发广泛反对和争议。在众多反复被抵制,又势不可挡地入侵日常生活的技术中,人脸识别算是最为突出的一个。不论是技术的误差,对“奥威尔式”大规模监控的指控,都没有阻止它逐渐变得更加普及。近日,英国的南威尔士警方宣布重启人脸识别,用于抓捕恐怖分子和寻找失踪人员。2020 年这项应用曾被上诉法院裁定为非法,但留下一个口子。因而,警察部门特地委托制作了一份报告,指出特定环境下这个技术的歧视问题很小——报告的数据表明,当前设置下,错误匹配的几率为 1/6000。
“这没什么值得夸耀的,在英国这意味着可能有数万人会被错误地标记为罪犯。”Big Brother Watch 的法律和政策官玛德琳·斯通对此持批评态度,“实时面部识别是一种毫无疑问的大规模监控,它把我们都变成了长腿的身份证。”
地球另一端的纽约市,停用两年的机器狗也再次被用于执法。纽约市用大约 75 万美金的价格购买了两只波士顿动力公司的机械狗。政府官员表示,它们并不用于例行巡逻,而是一些危及生命的情况,比如拆弹。
同时部署的还有几个蛋形的 K5 机器人,以及一种可以将 GPS 追踪器发射到逃逸车辆上的枪型装置。据介绍,前者可以情报发回警察局并阻止犯罪。但发言人也特别指出,它没有人脸识别功能,似乎是为了打消人们的顾虑。
不是所有人都对这种“先进”表示欢迎。警察部队的装备升级时常让人感到毛骨悚然、反乌托邦,质疑是否有此必要。面貌上它也很接近让人更为担忧的一种技术:能独立识别和攻击的自主武器。“这好像一部糟糕的科幻小说。”监控技术监督项目执行董事 Albert Fox Cahn 表示,“纽约值得真正的安全,而不是山寨版的‘机械战警’。”
数据中心正在抢占农田面积,荷兰的农民很不高兴。当减碳成为一个政治任务,大型企业做出了让人熟悉的反应:抢占资源。哪里可以种树,购买碳汇,哪里有低廉的清洁能源,它们就一窝蜂地涌过去。荷兰就是这样一个地方,地理位置上,这是欧洲网络电缆交汇之处,且气候温和,拥有丰富的绿色能源。
《连线》报道,迄今为止,这里陆续建设了大约 200 个数据中心。尤其是 2015 年以来,占地至少 10000 平方英尺的超大规模数据中心开始落地,为微软和谷歌这样的科技企业服务。反对者认为,数据中心占据了大量的土地,是对本可用于开垦的肥沃农田的一种浪费。2022 年, Meta 的一个大型数据中心就在社区抗议下受到了更严格的审查,最终没有落地。
数据中心消耗的大量电力也对本地人的生活带来威胁。爱尔兰的活动人士反对 Amazon 在北都柏林建设三个新数据中心的计划,认为它们会使电网超载。近日,挪威军工企业 Nammo 也表示,由于 TikTok 新建的数据中心,地区内面临的电力紧张,这正在影响它的生产,并进一步影响它对乌克兰的战备供应。
流离失所的乌克兰人在 VR 的世界里寻求疗愈。尽管元宇宙已经在今年的 AI 浪潮中被许多人抛诸脑后,与之相关的技术仍在一些领域展现出创造性的用途。这是由国际心理学家团队与 VR 平台 8agora 合作开发的项目,旨在为受到战争影响的乌克兰人提供治疗支持。
虚拟世界设置在基辅,天空晴朗,城市中有大量的植物,广场中央摆放了一排蓝色沙发。参与者可以定制自己的虚拟形象,在 VR 世界中见面,分享个人以及他们共同的创伤。领导该项目的心理学家希望 VR 能够帮助消除一些围绕 PTSD 而生的耻感。去年的一项研究发现,41.2% 的创伤后应激障碍的人受到耻感的影响。而隐藏在虚拟形象之后谈论自己的创伤,走出疗愈的第一步似乎能变得更容易一些。
战争进入第二年,俄罗斯与世界产生了技术隔离。根据政府数据,2022 年约有 10 万名 IT 专家离开俄罗斯,约占技术劳动力的 10%。与此同时,1000 多家外国公司缩减了在俄业务,作为对其制裁的一部分。
麻省理工科技评论援引离开的科技工作者的表述:这个国家正在变成一个村庄,与全球科技产业、研究、资金、科学交流和其他的关键组成部分隔绝。尤其显现的一点是,国际上的明星产品,TikTok、Instagram 和 YouTube 都在一年内出现了俄罗斯仿版,名为 Yappy、Rossgram 和 RuTube。退出俄罗斯的公司则以低价将资产抛售。
尽管技术已经是俄罗斯少数仍保持开放的行业,战争前,政府对科技大公司的控制就已经对行业带来了损害,尤其是对言论的控制,严重损毁了社交平台的公信力。而在失去对外交流的情况下,许多人对俄罗斯未来的技术发展并不看好。“凡是和创业、创投相关的东西,都是需要大量国际化运作和参与的,不能局限于一个国家。然而这正是俄罗斯目前在发生的事情。”反对党成员 Ilya Ponomarev 表示。
公元 2023 年四月 AI 简报
从 ChatGPT 到 Stable Diffusion,不论是文生文,文生图,还是未来的各种形式,涉及到由人工智能生成的内容都将受到其约束。
然而,这样一个管辖范围极其广的文件,表述却也非常含糊,让人无法理解具体能如何实现。比如,其要求包括“采取措施防止生成虚假信息”,“保证数据的真实性、准确性、客观性、多样性”——拥有领域内最先进技术的 OpenAI 和 Google 恐怕都尚无法做出这样的承诺。
该管理办法也因地制宜地,包含了许多我们熟悉的要素,比如“生成内容应当体现社会主义核心价值观”,用户实名制,防沉迷等等。
中国的网络管理总是呈现出这样复杂的面貌,为不同的目的服务。一方面,《个人信息保护法》和《深圳数据条例》等文件的出台,似乎在向 GDPR 的方向靠齐;另一方面,监管和审查也总是并行而至,用一个巨大的网兜将所有内容都归在同样的标准之下。在此之前,百度、阿里在内的多家科技企业都争相推出了自己的大模型,抢占国产人工智能的平台的市场,这无疑会给它们的未来发展打下一个问号。
正如去年底许多人预测的那样,一路狂飙的人工智能行业,随着一款现象级产品的出现,也在今年迎来一波监管的大讨论。至于答案,可能比我们想象得要更为复杂。
中国网信办的条例之外,三月底,马斯克、沃兹尼亚克等知名科技人士联署了一封公开信,要求暂停人工智能开发六个月。目前签名已经超过两万人。信中敦促行业“面对能力不断涌现却不可预测的模型黑箱,从危险的竞赛中后退一步“。
最终这场骚动只是雷声大雨点小,因为不存在一条这样的网线,一拔插头就能让所有人工智能企业停摆。但不切实际的“敦促”也透露出人们的不安。技术的发展超出人们的预期,人类要玩儿脱了吗?一些对于这封信的批评试图把人们的情绪往回拉一拉,他们认为,这封信夸大了大语言模型的力量,更重要的是,它用一些末世言论,把我们的注意力从更直接、更迫切的危害中转移开了,比如模型的偏见和错误信息。
不愿意面对这些更迫切的问题可能是因为太难回答,直到现在人们也没有对“有道德的 AI” 究竟是怎样达成共识。欧盟拥有更加成熟的数据保护立法,因而行动也更加迅速,三月底,意大利数据保护机构 Garante 就以违反数据保护法为名,给 ChatGPT 实施了临时禁令。但欧盟的立法者也意识到,已经讨论多年的 AI ACT(人工智能法案),真正落地时恐怕已经完全落伍。
而你又该如何监管一个黑箱?最强大的算法本质上是不透明的。人们可以控制训练集,改变训练方式,甚至设定过滤机制,强制筛选掉不合法的生成内容,但神经网络究竟是运作的,仍存在大量未知。
没有一种审查比自我审查更强大。AI 实验室 Anthropic 的一项实验的发现,想让模型产出更加无偏见的内容,只要跟它说就好了。该团队发现,仅提示模型在回答的时候“不要依赖于刻板印象”,就能够对其输出产生显著的积极影响。只要输入正确的关键词,AI 会不会变得比人更擅长自我审查?
随着个人信息收集无孔不入,你不仅能坐拥信息茧房,也将收获自动化和个性化定制的专属诈骗手段。
Darktrace 的研究人员发现,2023 年的前两个月,新型社会工程学电子邮件攻击增加了 135%。社会工程学指的是电信诈骗的一种门类,多数会利用人们的一些心理,比如知名的迪拜王子诈骗,还有多年前的快乐大本营抽奖诈骗。心理操纵的技巧会引起受害者的危机感、恐惧或好奇,引导他们不经核查就泄漏敏感信息,或是点开恶意链接文件。
由于这类攻击常会涉及到通过多轮对话,获取受害者信任,成本较高,也容易露馅,过去常会通过广撒网的“傻办法“,寻找最薄弱的地方下手。但最新的人工智能技术正在提高成功率,并大为减少生产自然对话的成本。Darktrace 表示,新型的攻击包含了“复杂的语言技术”,电子邮件的文本量、句子长度和标点符号都出现了明显的增长。而过去最为可疑的,直接包含附件或链接的恶意邮件数量则有所减少。
★ AI 可以写维基百科么?等下,可是 AI 的参考来源就是维基百科
英国媒体 The Evening Standard 最近采访了维基百科的创始人之一 Jimmy Wales,问及这个问题。他的回答其实没有什么好说的,他表示这其中有很多可能性,也提到 ChatGPT 和各种模型编造事实的问题。
但值得一提的时,AI 研究者 Alan D. Thompson 曾做过一个整理,分析不同模型使用的训练集组成,其中维基百科是一个区别于书籍、期刊以及 Common Crawl 的一个单独的、重要的类别。数据量上也非常可观。
也就是说,AI 参考维基百科来撰写维基百科,然后把维基百科越来越多地替换为 AI 生成的内容?
斯坦福大学和 Google 的研究人员创建了一个类《模拟人生》、微型 RPG 风格的虚拟世界,其中 25 个角色全由 ChatGPT 和自定义代码控制,以高度接近现实的行为独立生活。
这个名为“Smallville”的虚拟小镇,有自己的房屋、咖啡馆、公园和杂货店。小镇居民有一段“种子记忆”,类似于设定,描述了他们的职业以及与镇上其他人的关系。ChatGPT 联系上下文的能力,让他们拥有了记忆,意味着开始运转后,居民之间的交流也会成为他们设定的一部分,并带来相应的事件发展。
比如,当一个居民被设定为想要举办情人节派对后,两天内镇上自动传开了这个消息,并协调出了派队时间和参与人数,其中 12 人收到邀请,5 人决定参加,3 人借口太忙,4 名干脆放鸽子——确实很真实。
这里(https://reverie.herokuapp.com/arXiv_Demo/)可以看到模拟的回放。非常有趣。
还有比较恐怖的一点。作为研究的一部分,一些真人角色被要求对这些 AI 居民进行角色扮演,并用这个身份回答一些问题。研究人员发现,AI 居民的回答比真人扮演的要更加可信。
对人类来说,这种思维模式很常见:如果某件事情没有发生,现在的生活会是怎样?但对机器来说,“倒推”计算方式并不常规,因为决定性的因素并没有真正发生。
1990 年,计算机科学家 Andrew Balke 和 Judea Pearl 发明了孪生网络,也就是一对概率模型,一个代表现实,一个代表虚构世界。后者与前者几乎相同,只是更换了一个变量,来观测事情的发展是否会不同。这个思路进一步发展为了一种神经网络的构架蓝图。
如今,Spotify 的团队在使用它构建自己的预测系统。根据其团队在 Nature Machine Intelligence 上的描述,该模型可以更好地判断不同因素对于事件发展的影响,理解其因果关系,以此提高金融、医疗保健等一系列应用中自动决策的准确性,尤其是个性化建议,比如如何给你更好地推荐下一首歌。
02
气候/环境
碳中和路上不为人知的难题:究竟谁有权利在海底挖矿?这是一件有点反常识的事情,为了保护环境,减缓升温,我们急需从地球再多挖点东西出来。比如用于电池的锂,用于风力涡轮机的稀土元素,钕和镝,铜……为了获取这些资源,人类把目光投向了海洋。
过去几十年,人们都在讨论海底采矿的可能性,一些商业公司已经开始行动。但也有担忧的声音。科学家认为,海洋也是一个重要的碳汇,采矿的行为可能会将破坏海洋的状态,并释放出更多的二氧化碳,带来本末倒置的结果。同时,采矿行为也会消灭这里的原住民,多毛类蠕虫、海参、珊瑚和鱿鱼等,对生物多样性带来不可逆的破坏。跟很多气候行动一样,最让人担忧的是,我们其实根本不清楚这件事将带来怎样的潜在危害。
那谁能解决这个矛盾呢?实际上,确实有一个组织能够管管这事,名为国际海底管理局(ISA)。该组织成立于 1994 年,总部在牙买加。它会对进行申请的企业/团体/国家颁发勘探许可证,自 2001 年以来,已经颁发了 31 份。
2021 年,太平洋国家瑙鲁宣布打算对海底进行商业开发。这触发了一个模糊的“两年规则”,给了 ISA 一个最后期限来完成其环境监管规则手册。这个期限会在今年七月到期,意味着现在已经到了设定监管的最后关头。
随着对海底采矿的反对声音越来越大,此次决议引发了比以往更强烈的关注。包括国际自然保护联盟 (IUCN) 的国际组织一直在试图推动暂停海底采矿,三月初联合国也通过了一项新的公海条约,承诺到 2030 年保护三分之一的海洋(和陆地)。
中国沿海海平面一直在波动上升,2022 年达 1980 年以来最高。根据自然资源部四月的例行新闻发布会,过去 11 年中国沿海海平面均处于有观测记录以来的高位,2022 年,中国沿海海平面较常年高 94 毫米,为 1980 年以来最高。
沿海高海平面加剧了风暴潮影响程度,也造成沿海地区更容易遭受复合型滨海洪涝。长江口、钱塘江口和珠江口咸潮入侵总体加重。江苏、广东和海南沿海部分监测岸段海岸侵蚀加剧。
《国家地理》在一篇文章中解释了海平面上升的原因,包括全球变暖导致的海水热膨胀,冰川融化,以及格陵兰岛和南极洲冰盖的消失。政府间气候变化专门委员会的一份特别报告称,预计到 2100 年海平面将上升 26 到 77 厘米。
臭氧层修复卓有成效,但被禁用的化学物质又神秘地出现在了大气中。根据发表在《自然地球科学》杂志上的研究,五种不同类型的氯氟烃 (CFC) 正在大气中以惊人的速度积聚。这些化学品曾广泛用于空调和制冷,以及气溶胶喷雾剂、泡沫包装等,但根据《蒙特利尔议定书》,它们本都应在 2010 年之前在全球范围内逐步淘汰。
因此科学家对于新的发现感到十分困惑。一种解释是,从技术上讲,公司仍然可以在制造替代品的过程中使用 CFC,新的泄漏就是从这个过程中出现的。定位泄漏的源头十分困难。“你可以把它想象成你在一片草地上丢了钥匙,你只能去 10 或 15 个特定的地方寻找。” NOAA 科学家在发布会上表示。
虽然就目前而言,新的污染不足以抵消数十年来修复臭氧层的努力,但无法定位和控制这些泄漏可能会推迟原本预计将在 2066 年完全恢复的臭氧层。
气候储能新技术,加热一块砖。对于清洁能源来说,储能是一个大问题,因为与传统燃煤发电不同,多数清洁能源发电都看天,而用电需求不总是和天气完美匹配。为了拉平这种用电差,一些初创企业开始探索用砖块储能的系统。
原理非常简单。日常生活中我们也会有体会,经过一下午的日晒,公园的石凳在太阳落山后,摸起来仍是温温的。不同材质能够保留这种温度的能力和时间长度也不尽相同。
具体操作时,首先,这个系统会用清洁能源产生的电力加热元件,将电能转化为热能,然后加热砖堆,使其达到 1500 摄氏度甚至更高。在隔热的容器中,这个温度可以保持数小时乃至数天。需要使用时,就会有一个风扇将空气吹过砖块,被加热到 1000 摄氏度的风将会被转化成为新的用途,比如加热水来制造蒸汽,或者投入其他需要高温的生产过程,满足工业对热能的大量需求。
发挥余热的老煤矿,继续为英格兰人供暖。淘汰燃煤发电厂被视为全球减碳最核心的行动之一。过去十年,英国的煤炭产量下降了 94%, 大量煤矿被关停,退出历史舞台。
但被关停的地方并不是一片废墟,随着人们退出,地下水重新涌上来填满矿井。这些地下水就像温泉一样,天然地保持在 20 度的温度。于是一些本地的社区和企业将其加以利用,用来为建筑提供暖气。从这个层面讲,地球就像是一块巨大无比的热电池,储存能量并通过地下水释放到地表。
担心水资源流失,法国部分地区暂停新的住宅建设项目。整个欧洲都面临着严重的干旱问题,法国和意大利北部的水库比正常水位低 40% 到 50%,阿尔卑斯山的降雪量仅有预期的一半,严重影响了依赖于它的融水作为水源的下游地区。
《连线》报道,专家预估,就雨量而言,整个大陆需要数亿升雨水来填补缺口。但这个可能性并不高。去年欧洲的破纪录的高温加剧了自 2018 年以来的连年干旱,而随着又一个夏天即将来临,人们也担心热浪会不会席卷重来,带走更多的水分。
除了已经进入“警戒状态”的法国,许多地区都开始限制水的使用和消费,在加泰罗尼亚,农场被要求减少 40% 的用水量,工业则须减少 15%。报道也提到一些有争议的做法,比如用巨大的薄膜覆盖冰川和雪山,反射阳光,借此保存珍贵的水源。
总体而言,用马克龙的话来讲,“富足的年代已经过去了,我们所有人都必须谨慎。”