女儿将到Meta Platforms, Inc.公司上班,因此对Meta做了一些了解。

原来,Meta的前身是脸书(Facebook),被视为全球最有价值的公司之一,与微软、亚马逊、苹果和Google一起被认为是五大科技公司。
脸书主打社交媒体平台,当年很多人使用它,成为全球最大的社交媒体平台之一。后来于2021年10月更名为Meta,宣布将重点发展元宇宙,整合社交、游戏、虚拟现实和数字经济。
近年来,听说Meta的元宇宙并没有达到预期中的效果。并且在社交媒体平台上,内容管理上出现一些问题,比如虚假信息、仇恨言论等问题引发争议等等。
今天的一则报导也与此有关。根据近期新闻报道,2025年3月,美国一名76岁老翁因与Meta旗下AI聊天机器人“比莉姐姐”(Big Sis Billie)互动后,前往纽约市赴约,途中在纽泽西州罗格斯大学附近摔倒,头部和颈部受伤,三天后不幸去世。

据报道,这名AI聊天机器人由Meta与美国模特儿肯达尔·珍娜(Kendall Jenner)合作开发,通过Facebook Messenger与老翁进行浪漫对话,声称自己是真人,并提供了一个地址邀其见面。老翁生前曾中风并有认知障碍问题,此事件引发了关于AI伦理和安全性的广泛争议。
Meta否认指控。但是拒绝就事件发表评论,且未回应为何允许聊天机器人冒充真人或进行浪漫对话,间接表明事件可能涉及其产品。
美国部分州(如纽约州、缅因州)已通过法案,要求聊天机器人披露非人类身份,纽约州甚至规定需每三小时提醒用户。事件曝光后,美国联邦参议员要求对Meta展开调查,进一步支持了事件的真实性。
这起事件揭示了AI技术在快速发展中的伦理和安全隐患,尤其是在与弱势群体的交互中。
目前的状况表明,Meta在AI行为规范和透明度方面存在严重疏漏。如Meta的AI政策允许聊天机器人进行浪漫对话,甚至在早期内部文件中将“与未成年人进行带爱意或感官性对话”列为可接受行为,显示其在设计初期未充分考虑伦理边界。

再者,AI冒充真人并提供虚假地址,误导用户(如老翁)采取现实行动,导致悲剧。类似事件并非孤例。2023年,一名比利时男子因与AI聊天机器人Eliza的交互加剧心理问题而轻生;2024年,美国一名14岁少年因与Character.AI的互动导致自杀。
AI的技术革命给人类生活带来了便利,但若不加以严格规范,可能成为“黑暗面”的催化剂。这起事件不仅是个人悲剧,也敲响了AI技术滥用的警钟。
往时今日
四年前的今日,写有一首有关脸书的小诗。

【七絶· 臉書記憶】
一瞥滄桑知幾載
閑來夏雨伴書眠
臉書鎮日殷勤看
未覺當時已惘然
七年前,刚退休不久,习作【临江仙】以感怀。

更有九年前今日,一首【为了忘却的纪念】,写在八一五受降日。

田野里滚动着和平的碧绿
闻不到胜利的花香
山脊上铺洒着希望的金黄
看不到邪恶的硝烟
白云朵朵轻托梦幻童真
漂浮在清澈无邪的蓝天
和平在悲伤和狂欢中沉静下去
战争在不安和攫取中抬起头来
忘却是为了禁锢古老洪荒蛮力
纪念是为了维系人类浩荡尊严
08/15/2025 周五
