剑客
关注科技互联网

Oyoty 是设计用来教孩子是安全的在线聊天

Oyoty 是设计用来教孩子是安全的在线聊天

鉴于有程序应有尽有,似乎不可避免地很快就会有机器人试图做的一切,,虽然它有待观察这些 AI 动力聊天机器人的事实会证明有持久的实用程序,现在它是所有关于实验。

也就是说︰ 满足 Oyoty,友好的看 bot,想要让您的孩子安全,当他们分享 Instagram 这些社交网络上的内容。它被专为儿童 12 岁那些活跃在社交媒体,通过智能手机或平板电脑上。

Oyoty 作为一款应用,iOS 和 Android 已经下载到子设备上并链接到社交网络账号设置 (通过 Oauth) 存在。它具有对 Facebook,Instagram 和 Twitter 支持。

Bot 作为大哥哥

而不是父母孩子肩上冲浪的配置文件和职位,这个想法是 bot 坐在中间,自动扫描什么孩子是公开张贴和干预通过标记问题员额儿童本身以帮助他们理解为什么它不是一个好主意,分享过于挑衅的自拍照,例如,或发布他们的电话号码。

重点是对子女的教育,要更加意识到他们的在线分享,说创始人和首席执行官迪帕克 · 特瓦里,所以 bot 的干预措施都以儿童积极参与的在决策过程中通过选择预先设定的不同反应的谈话。团队工作与英国儿童心理学家凯瑟琳 · 尼布斯,以自定义写对话的内容。

Oyoty 是设计用来教孩子是安全的在线聊天

当 bot 的旗帜向他们发送时,孩子们可以从可选择的反应包括基本肯定像 ‘ok’ — — 即如果他们高兴地同意对 bot 的建议采取行动。或者 ‘不确定’ 如果孩子想要有更多的讨论关于为什么特定的内容已被标记 — — 与其他预先设定反应出现在此时要启用双向讨论采取地方。

干预措施在结构上也因此儿童引导来编辑或删除问题内容本身,让他们参与自身适度 — — 再一次,目的是帮助他们了解什么是和不是适当网上分享。

Bot 就是软启动在这一点上,也只有在英国 — — 瑞士背后与英国儿童保护慈善机构,因特网事项合作项目启动。英国父母都能够免费注册试用该系统。

蒂瓦里说:”Oyoty 是第一个为儿童使用的深度学习和聊天技术的授权和教育孩子,为了安全起见,结合其亲切的个人安全助理”。”Oyoty 找个人数据或不适当的内容,关于儿童的社会网络员额。如果它检测到这种内容它) 亮点和解释问题给孩子和 b) 帮助他们立即采取行动像删除该内容。”

“从历史上看 — — 高新技术产业已等同保护儿童与家长控制,”他补充道。”您在市场中看到几乎每个解决方案重点是要么滤波和禁止使用的服务和注定要父母来监视或禁止孩子的活动”。

特瓦芮辩称该内容过滤儿童保护战略有严重的局限性 — — 指向最近的研究表明禁止进行最小二乘估计添加”对儿童无甚价值,没有帮助他们建立任何意识或能力”。

它是这教育他估计的推力使 Oyoty 有别于其他儿童监测解决方案 — — 如 NetNanny 或 TC 扰乱纽约明矾树皮 — — 鉴于它提供”儿童通道”,正如他所说。

Bot 还提供了隐私和联机安全内容旨在吸引孩子,卡通视频和测验等。这里的内容主题涵盖的主题包括数字公民和互联网安全、 隐私、 欺凌、 自我形象、 数字足迹和名声和关系。

警报的问题依然存在

所以,如果孩子拒绝参与过程的调节自己的内容,怎么办?在那点 bot 可以,会升级问题直接向父母通过警报 — — 默认设置为三天后,孩子已经被采取没有行动要解决的问题。

但希望显然是孩子们会同意重新考虑任何问题之前的 bot 了让家长直接参与。”我们是既不是关于禁止,也不是关于警务工作 — — 所以我们不要孩子从过帐。我们的重点是教育、 认识和建立,复原能力的”添加特瓦里。

我们的重点是教育、 认识和复原建设。

也就是说,父母也做有权访问在线仪表板,在那里他们可以监视孩子的社交媒体活动和接收进度报告。因此家长监督不完全是手了。通知家长可能会收到通过此仪表板是他们的孩子共享一个电话号码,用脏话,或张贴不恰当的照片。

这里是为父母的仪表板视图的一个示例︰

Oyoty 是设计用来教孩子是安全的在线聊天

“通常父母会得到每周电子邮件报告,”蒂瓦里说。”如果 [] 的问题已经得到解决的父级是显示 ‘好事’ 没有实际上提供细节。然而对于尚未解决的问题提供细节 — — 只是图像总是模糊处理,保护儿童的隐私。”

他说,父母也能够自定义是否他们想要把孩子放在”监督模式”— — 即在儿童和家长提醒同时 — — 和是否他们想向大家介绍自定义黑名单的单词和规律的这种条款的通知。所以有的系统进行配置,以在它如何政策孩子们的活动更为严厉的余地。

保护隐私吗?

讨论系统是如何保护儿童的隐私一般,特瓦芮表示它依赖于使用很少的个人数据。”对于孩子我们保留︰ 社会网络句柄、 性别、 IP 地址、 出生年份。由于我们使用 Oauth — — 我们不知道也不保留孩子的密码也不是我们存储他们的内容,”他说。

他还强调它已永远只能看着公开发布社会网络数据。这意味着该系统不能密切关注孩子可能发送或接收任何私人信息。但首要希望还有由针织在线安全和隐私教育融入孩子们的公共社交媒体活动,然后孩子们将学会更好地管理他们私人分享太。

“我们保持儿童的隐私作为优先事项将仅中继到父母问题的儿童还没有解决,”他补充道。”我们所有的服务器都在瑞士,根据欧盟 GDPR 和瑞士准则进行数据处理。

也不保留或分发任何图像通过其自己的服务器,根据芮做无需任何手动干预和只有加密的链接保留期间这些图像是在社交网络上可用的图像 Url 的内容检测。

启动时使用机器学习能力使 bot 找出问题的图像和文本。在这一点上 bot 的图像分类系统是能够推断出裸露、 暴力、 自我伤害和厌食症,根据特瓦里。

他说,它正致力于进一步建立这些功能 — — 包括能够检测到细粒度的情感,从社会媒体的文章,提高 bot 可在将来对情感脆弱敏感的可能性。

“结合文本分析与上下文的共享我们将能够使细粒度分类像隐私泄露、 在线声誉、 欺凌等激进化,”他指出。

Oyoty 是瑞士 startupPrivately 的心血结晶,本身纺出不够全面回在 2014 年的保安公司。它的天使在这一点上,资助命名 Ariel Luedi 作为其主要投资者。团队也已经奖励来自瑞士联邦 (CTI 供资) 研究补助金和从洛桑市 (斯贝柯) 经济促进会的另一种加速度补助金。

虽然 Oyoty 的审判是免费的目的是提供订阅服务,从明年开始 — — 售价约为每月每个家庭 5 英镑 (为三个孩子)。

以及英国审判,系统将在保加利亚和自治市在瑞士的洛桑警察与试行。试运行一月,直到 2017 年后,团队的目标,为全球商业产品的推出。

“我们去市场是两个 B2C 在哪里可以买服务在线以及通过 b2b 交易销售散装许可证向零售商/电信运营商,他们可以与智能手机/设备销售捆绑起来。到目前为止我们已经关闭了同在英国最大的电子零售商之一我们第一个零售商 b2b 合同”,预计宣布在今年年底之前的另一个。

[剑客-翻译]

分享到:更多 ()

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址