最近的趋势显示，在社交媒体平台上的在线伤害急剧上升，包括在线骗局和冒充公众人物及马来西亚知名品牌的诈骗广告。此外，针对儿童的性犯罪也越来越受到关注，人们担心社交媒体平台是否做足了措施，以确保所有用户的安全。
在马来西亚即将出台新的社交媒体平台监管措施之前，TikTok邀请我们参观了他们位于新加坡的透明度和问责中心（TAC），向我们展示了内容如何被审核，以确保包括儿童在内的所有人都能安全使用该平台。
新加坡TikTok透明度和问责中心
TikTok在新加坡的TAC是本区域首个开放给访客，了解内容如何被审核并推荐给观众的TAC。虽然该平台以娱乐和短影片著称，但他们重视安全、权利和诚信。
为了保持平台的安全，TikTok目前在全球有超过4万名审核员，他们管理70多种语言的内容。这些内容审核员分布在不同市场，有专门的团队了解各个国家的本地和法律背景。
虽然TikTok没有透露马来西亚的具体审核员人数，但其透明度报告显示，其团队中有相当比例的亚洲语言审核员。8.3%的人工审核员分配给印尼语，4.7%分配给越南语，3.9%分配给泰语，2.9%分配给马来语，2.8%分配给菲律宾语和2.3%分配给日语。
假设TikTok有4万名人工审核员，大约有3320名审核员负责印尼语内容，1160名审核员专门负责马来语内容。
为了透明化，TikTok还发布了季度社区准则执行报告和半年政府移除请求报告。这些报告提供了关于TikTok如何执行其社区准则、服务条款和广告政策的更清晰的视角，以及如何处理政府的移除请求。
使用机器和人工技术审核内容
在影片出现在“为你推荐”页面（FYF）之前，每个上传的内容都会经过TikTok的自动审核技术，该技术使用各种信号覆盖内容的视觉、音频、标题、描述和关键字。如果系统确定内容违反了其社区准则，则会自动删除。
然而，在某些违反程度不明确的情况下，自动审核系统会将内容传递给人工审核员进一步处理。
根据TikTok的说法，全球上传的所有影片中有0.9%被删除，其中97.7%是主动删除的。因此，大部分不适当内容在被举报之前就已被删除。
在马来西亚，2024年1月至3月期间，共有124万9806个影片被删除，其中98.4%是平台主动删除的。根据TikTok的说法，这些影片中有79.0%在24小时内被删除。
如果内容被错误标记为违规，用户可以提交申诉，问题内容将重新发送给审核员决定是否应允许其返回平台。
TikTok的社区准则定期更新，并公开帮助用户创建和分享安全内容。最近一次更新是在5月17日，增强了对仇恨言论和虚假信息的明确性。
大马政府的88%移除请求违反了TikTok准则和本地法律
据广泛报道，马来西亚在TikTok上政府移除请求数量最多。根据TikTok的2023年下半年报告，他们共收到1862个来自政府的移除请求，涉及6231个内容和552个账户。
其中，有2514个内容（40.35%）因违反TikTok社区准则被删除，2970个内容（47.66%）因违反本地法律被删除。其余747个内容（12%）未被删除。
在被举报的账户中，TikTok删除了368个账户（66.67%）因违反社区准则，103个账户（18.66%）因违反本地法律被删除。其余81个帐户未采取行动。
值得指出的是，如果没有发现违规行为，TikTok不会删除内容和帐户，马来西亚政府请求的删除率为87.8%。相比之下，澳大利亚的内容删除率为96.0%，而印尼为42.9%。
在处理政府移除请求时，TikTok依赖其社区准则作为基准，以平衡伤害和言论自由。然而，有时他们会收到不违反社区准则的内容移除请求，但其服务条款明确表示TikTok尊重当地法律。在这种情况下，其法律团队将根据本地法律评估请求，以确定内容是否违反法律，并可能采取必要措施，包括对该地区限制内容。
为年轻用户提供安全环境
一个日益关注的问题是针对儿童的性犯罪，年轻用户被在线掠食者引诱。为了确保年轻用户的安全和可信环境，TikTok实施了若干措施以尽量减少这种伤害。
TikTok只允许13岁及以上的青少年注册为用户。虽然较小的孩子可能会找到绕过年龄审查的方法，但他们有算法删除未成年用户创建的帐户和内容。在一些国家如韩国和印尼，最低年龄是14岁。
对于16岁以下的用户，TikTok实施了几项保护措施，包括禁用直接消息和将其帐户可见性默认设置为私密。作为额外措施，16岁以下用户上传的内容不会显示在FYF上，只有朋友可以发表评论。
此外，他们还禁用了双人模式和拼接模式，并禁用了影片下载。这些措施旨在防止暴露于潜在的在线掠食者。
一旦他们达到16至17岁，这些年轻用户将有权选择启用更多默认禁用的功能。这包括启用直接消息、评论、将视影片为公开以及允许视频出现在FYF上。TikTok也不允许18岁以下的用户在其平台上进行直播。
为了最佳的数码健康，TikTok还对18岁以下用户实施了每日60分钟的屏幕时间默认限制，并在晚上9点开始限制通知。
三层审核防止TikTok上的诈骗广告
马来西亚社交媒体的一个主要问题是诈骗和在线赌博广告的增加。尽管这些广告违反了广告政策和本地法律，但一些平台恶名昭著地允许其平台被滥用以放大骗局。
根据TikTok的说法，他们在广告审核方面有三层审核。所有广告都要遵守社区准则、广告政策和创意政策。在允许帐户开始投放广告活动之前，还有一个入驻过程，需要提供更多信息以证明广告商信誉良好，才能访问广告管理器。
除了安全内容，TikTok还采取措施确保广告商的品牌安全。算法设计确保广告前后出现的内容适合推广内容。
保护免受有害和误导性AI生成内容的影响
随着生成性AI的兴起，它为创造力开辟了很多机会，但也引发了对有害AI生成内容（AGC）的担忧。为了确保生成性AI内容的负责任使用，TikTok旨在通过删除有害和误导性AGC并要求对逼真的AGC进行标签化来保护用户。它还希望通过增强透明度和教育来赋能用户，并与行业同行和专家合作处理AGC。
首先，TikTok不允许AGC描绘虚假的权威来源或危机事件。平台也禁止在其平台上使用任何真实或虚构人物的AGC，包括公众人物的政治和商业代言以及18岁以下的私人人物。
对于打算分享AGC的创作者，他们被敦促开启AI生成内容设置，这将使视频被标记为AI生成。据信，TikTok是第一个实现C2PA内容凭证以将AI生成内容标签嵌入其元数据的视频共享平台。
TikTok意识到他们需要迎接AGC的挑战，并计划很快推出AI媒体素养活动。
