在疫情期间，线上问诊的推出可真是方便了不少人的生活。
通过向医生远程描述病情，再配上患处图片或短片，医生问诊的效率也高了不少。
只要不是大病疑难杂症，一般线上确诊后，隔空开药方也确实便捷。
不仅对医生，对患者来讲，效率都着实提高不少。
这不，美国家住旧金山的一位全职奶爸此前因为儿子身体不适，也用上了线上看病。
没想到，因为向医生上传的儿子私处的照片，也同时上传到这位奶爸的谷歌账户云端，结果，他被谷歌的人工智能检测系统坚定地判定为恋童癖，将他的谷歌账号资料删了个干干净净。
在随后的上诉过程中，谷歌的人工智能系统非常犟，它驳回了一切这位用户提交的证据，维持自己的判定。
事情是怎么发展成这样的呢？
最早，是在2021年2月的一个星期五晚上，住在旧金山的马克发现他刚学会走路的儿子的阴茎肿了起来。
幼儿的病情拖不得，于是急诊中心要求这对父母将儿子的患处照片发给他们，以便医生事先咨询。
于是，马克就用自己的手机记录下了儿子的病情部位。
总之，马克的生活被谷歌安排记录得明明白白。
但这也为后来发生的离谱事件埋下了伏笔。
儿子的照片发给医院那边后，医生倒是真的很快接诊了，对肿痛的病情迅速给开出了对应的抗生素药单。
但是，两天后，马克收到了手机上的提示，告知他：他的谷歌账户已经被停用，因为账户里的“有害内容”“严重违反了谷歌的政策，可能违法”。
《纽约时报》报道，顺着解释的链接，马克发现，他的账户被关闭的可能原因之一是“儿童性虐待和剥削”。
一开始，这个理由让他百思不解，满头问号。但他突然想到了两天前给儿子拍的生殖器问诊照片，反应过来谷歌很可能将它们当成了儿童色情制品……
由于账户被关，马克的电子邮件、联系人、照片等都无法访问，连儿子刚出生时的一些文件也消失了。
如果没有这些，要在另一个运营商那里申请一个新的号码和新的互联网账户，真的很麻烦。
马克这边，谷歌的人工智能并没有就此罢休，它甚至标记了在马克手机上的另一个视频——一个裸体儿童和成人躺在床上，并要求旧金山的警察局对此进行调查。
但这个视频应该就是马克的儿子和妻子躺在床上玩耍吧。
尽管旧金山的警察局澄清了整件事，但是谷歌表示，它对其人工智能系统非常有信心，并表示要继续封锁马克这个家伙的账户。
谷歌发言人克里斯塔·穆尔顿（ChristaMuldoon）说，公司遵循美国法律定义什么是CSAM图像检查功能，并使用哈希演算法（Hash）和人工智能的组合来识别图像。
穆尔顿补充说，审查此类案件的谷歌工作人员接受了医学专家的培训，但他们自己本身并不是医学专家，在审查每个案例时也没有咨询医学专家。
公平地说，谷歌基于人工智能的搜索已经比像Facebook这些平台的人工智能审查员要好很多。因为脸书的政策是先封锁内容，然后当用户上诉时告知，由于新冠疫情，平台没有足够的人手来处理。
不过无论如何，通过这两起事件，人们都不禁要问，这两家公司怎么能冒着失去客户和声誉的风险（更不用说偶尔的诽谤案了），对显然还未成熟的技术如此信任。