想让孩子远离网络伤害？这个AI线上保姆可以为他们撑起“保护伞”

当未成年人（特别是儿童）使用手机或电脑上网时，父母们或许没有意识到他们的孩子可能会遭遇网络伤害。

给孩子们一台电子设备，他们每天能发送数百条消息，访问数十个应用程序，并通过游戏的聊天功能与更多的人互动。在使用手机的一天中，他们可能会与数百甚至数千人进行过互动。使用手机所产生的巨大数据量，显然早已超出了家长的搜索能力。

如果错过了孩子向陌生人发送地址的短信或评论，父母该怎么办呢？

幸运的是，AI 非常擅长查看数据。Matt Phillips 博士研发的 Social Judo 是一个基于 AI、并专为家长设计的类似 Google Analytics（分析）的程序，它使用专有软件与 IBM 出色的 Watson 平台相结合。它不仅提供实时观察报告，而且能不断更新以探测到新危险。

Social Judo

该应用程序监测的主要危险因素包括脏话、色情短信、裸体、色情描写、激进言论等。如果它发现这些问题，就会立即通知家长，这样他们就可以直接从这里检查内容。

有很多监测类的程序都是免费的（ Social Judo 需要订阅），但是很少软件使用 AI 来完成任务。

Matt Phillips 在接受采访时说：“大部分父母无法跟上孩子的步伐，快速学习流行语或使用流行的 App，他们都没有充足的时间仔细研究这些内容。”

即便父母留心关注，也有可能会长期忽视孩子接收的讯息。

有一名叫 Michelle Carter 的女孩曾在两年半的时间里，持续向男友发送短信说服其自杀。最终在 2014 年，18 岁的 Conrad Roy III（她的男友）自杀身亡。

那些读起来令人无法忍受的短信推动了 Roy 的自杀。此前 CNN 报道，该案件的起诉人 Katie Rayburn 说：“在他的短信回复里，他一直在向她道歉……为自己还没死而道歉。”

最糟糕的是，Carter 和 Roy 并不是那种你可以在人群中一眼就能辨认出的“坏孩子”或“最危险”的孩子。纵然不是所有孩子都会遇到这样的极端事件，但是大部分孩子都遭遇过不同程度的网络伤害。

现在，苹果和安卓手机的应用商店推出的程序，可以帮助隐藏图片和文字。很多软件设计的初衷就是让陌生人能私密交流。

即便家长是谷歌的首席开发人员，都不能确定他们能够绝对弄清楚孩子们用设备做了什么。

Phillips 希望 Social Judo 和其他 AI 驱动的程序，将为孩子创造出更安全的世界。“如果能保护孩子免于受伤，那么这一切都是值得的。”他说。