智东西7月9日消息，当地时间7月8日，Instagram推出两大反网络暴力功能，即言论提醒和自主选定黑粉功能，用来帮用户抵制网络暴力。
2016年，以“贾斯汀·比伯退出Instagram”为导火索，Instagram首次推出了负面评论过滤功能。之后，Instagram还通过机器学习来处理含有攻击性信息的照片。
近日，Instagram推出言论提醒和黑粉选定功能，以应对网络暴力。Instagram主管Adam Mosseri说：“为了让人们的身心更加健康安全，我们不惜承受Instagram用户减少的代价。”
一、AI言论提醒功能
言论提醒功能利用AI技术，在冒犯性言论发表之前，向发言者发出提醒。比如：当某用户输入了“你又丑又蠢。”并点击发布时，AI会发出“请为Instagram保持一个友好环境”的提醒。
“通过获得这种干预，人们有机会反思和撤销他们的评论，使收件人避免收到有害评论通知。”Instagram主管Adam Mosseri表示，“经测试，我们发现这项功能确实有引导作用，能使一些用户撤销评论或修改评论内容。”
三、自主选定黑粉功能
粉丝限制功能帮助用户自主选定黑粉，并限制他们与自己的互动。如：用户选定粉丝Divdivk，限制其对自己的评论权，Divdivk的评论就会只对Divdivk本人可见，不对其他用户可见。众所周知，偏激言论极具煽动力，网络暴力延伸到网下更是贻害无穷。自主选定黑粉功能将赋予潜在受害者自主权，帮他们抵抗霸凌。
“你不用关评论，只需要限制某些人的评论对他人不可见。”Mosseri表示，“被限制用户也不会知道你什么时候登陆了Instagram、查看了他们的评论。”
三、力表决心，不惜丢失用户
这两款工具是Instagram打击网络暴力的重要成果。“我们致力于引领行业打击网络霸凌行为，我们复盘了Instagram的多年经验，以实现这一承诺。”Mosseri在7月8日的博客中写道。
这个工具也可能有利于商业行为。正如Mosseri在《时代》杂志描述的：“网络暴力言论可能对品牌名誉造成持久的伤害。”
Mosseri表示，他们也在上下求索，以使反霸凌监测不干涉用户的正当自由，避免用户流失。但是Mosseri也在《时代》杂志上说：“为了让人们的身心更加健康安全，我们不惜接受Instagram用户减少的代价。”
结语：利用AI技术净化社交媒体环境
网络之所以成为霸凌的猖獗地，源于网络平台的低门槛、用户的易煽动性和匿名感（自以为在ID下匿名）以及更深层次的商业及局部势力等多种因素。无论是个别用户自发的恶意攻击、在煽动下的情绪宣泄，还是网络水军有预谋的抹黑，都会对当事人和网络环境造成严重破坏。
从理论上说，运用Instagram的防霸凌功能，一些被煽动的用户可以在AI提醒下自我冷静，一些恶意水军可以在“被限制”之后难以发难企业和个人。在我国，新浪微博等社交媒体也具备言论投诉、评论过滤及评论关闭等功能，一定程度上缓解了网络霸凌的问题。
如何使技术成为造福于人的工具，而不是霸凌人的兵器，短期内探讨不会停止。另外，如何使用户既受到安全保护，又不远离平台，也值得各大平台关注。