从编写脚本文字到发布假新闻的机器学习模型,人工智能(AI)正在各个领域崭露头角。现在,一位名叫 Kelsey Bressler 的开发者,正在帮助她的朋友打造一款特殊的 AI 系统,旨在检测并剔除社交平台(Twitter)上的不雅色情图片(比如漏鸟图)。
资料图(来自:Twitter 官网,via Neowin)
这个项目的初始动机,源于 Mressler 女士被某位男性 Twitter 网友私信的漏鸟图的骚扰。这种未经他人许可,便可随意发送信息的方式,会让人感到明显的被冒犯和不尊重。
遗憾的是,尽管 SNS 平台制定了相应的社区政策,但事实上仍有许多人在违规操作,且科技企业的审核机制根本无法做到实时地应对。
Mressler 补充道:想要杜绝这种现象,就必须对传统的内容审核方式加以变革。尽管我们可以将私信一关了之,但这并不是该由受害人承受的自闭性负担。
好消息是,Bressler 女士的团队,已经在软件开发方面取得了不错的进展。她们创建了一个 Twitter 账户来当做诱饵,并邀请某些男子发送暴露图片,然后对 AI 展开有针对性的训练。
目前 Mressler 团队仍在努力标记某男子在其鸟部戴着笼子的照片,不过初期报告显示这项方案似乎很有希望。在取得了更大的进展之后,她们将在软件完工时,在 Twitter 上分享更多的研究细节。
,