|
温尼伯一所中学里发现，用人工智能生成的未成年学生私密照片在流传，Collège Béliveau中学在应对人工智能阴暗的一面。
在学生下午上课时， Collège Béliveau 学校给家长的一封电子邮件称，学校工作人员得知在这所法语沉浸式学校里，有7-12年级女学生的照片被篡改后在网上分享，学校官员已经联系了警方。  信中说：“我们非常感谢挺身而出请我们注意此事的学生，我们感到非常骄傲。 一名照片被篡改的女生的母亲告诉记者，她希望追究责任人的责任。她质疑为什么人工智能公司允许这种事情发生。 另一位家长的儿子在读 12 年级，她说她对这一消息感到震惊。 Noni Kopczewski 说："我认为这对女孩来说比男孩更可怕，这只是我的看法。 "我有三个儿子，但我认为我给孩子们最好的建议就是永远尊重....，设身处地为别人着想。这是一种伤害，它造成的伤害是长期的。  Kopczewski表示，她家里一直在讨论人工智能，包括使用人工智能带来的风险。 她说："外面的世界变得更加可怕了--我们正在对自己进行更多的教育。” 校方表示，原始照片似乎是从公开的社交媒体上收集的，然后被明确修改过。 他们没有说明他们认为有多少照片被分享，也没有说明有多少女生受害。 学校正在进行调查，以更好地了解所发生事件的严重程度和相关人员，工作人员正在采取必要措施，以应对已查明的共享这些图片的个人的行为，给家长的电子邮件中说。 "虽然我们不能假设我们掌握了所有篡改照片的证据，但我们会直接联系那些我们掌握证据的学生的监护人。" 这所学校位于温莎公园社区，网站上写着有不到 600 名学生。  学校还与 Cybertip.ca 取得了联系。Cybertip.ca 是由位于温尼伯的加拿大儿童保护中心（Canadian Centre for Child Protection）运营的一条网络虐待举报热线。 学校收到的图片将上传到 Cybertip 的蛛网项目（Project Arachnid），该项目可以帮助删除这些图片。 Const. Dani McKinnon 说，警方的反剥削部门正在进行调查，但现在还为时尚早，无法提供更多细节。 "她说："人工智能是我们世界中一个微妙而复杂的新组成部分。"这无疑是一种更新的诡秘行为。我们正处于未知领域。 目前尚未提出任何指控。 学校表示，任何直接或间接受到此次事件影响的学生都可以获得支持团队的帮助。 学校的电子邮件称，还可以通过 Cybertip.ca 和加拿大另一个青少年和家庭资源网站 Need Help Now 获得更多支持和资源。 多年来，通过照片编辑程序在年轻人不知情的情况下创建图像，然后在网上分享，剥削年轻人一直是个令人不安的问题，Cybertip 的负责人说。 "但人工智能确实加速了这一问题的解决"，Stephen Sauer 说。  虽然加拿大曾发生过利用人工智能制作儿童性虐待材料的案件，包括魁北克省的一起案件，但 Sauer 并不清楚国内是否曾发生过学校里的青少年被其他青少年以这种方式伤害的案件。 目前尚不清楚责任人是否为学生。警方和学校都没有对此发表评论。 Sauer也无法具体谈及Collège Béliveau中学的调查情况，但他说，制作露骨图片的人往往不了解后果和长期影响。 "即使这些材料的制作是因为人们认为它很有趣，或者他们认为这是一个略带恶意的行为......根据法律，它仍然可以被视为儿童色情或儿童性虐待材料，"他说。  他说，"如果这些材料与个人信息一起被分享到网上，可能会在受害者以后的人生其他阶段对其造成困扰。 蛛网项目（Project Arachnid）是一个网络爬虫，它可以在互联网上扫描已知的儿童性虐待图片，并向公司发出删除这些图片的通知。 "当然，现在还没有什么灵丹妙药，但它所做的就是向公司发出通知，让他们知道什么时候有材料被发布到他们的服务上......这样他们就能保持网络的清洁。”他说。  滑铁卢大学计算机科学学院研究教授Maura Grossman一直在研究人工智能生成图像对现实世界的影响，她也表示，这将是加拿大首例学生对其他学生进行深度伪造的案例。 她说："最近在美国的新泽西州和西雅图发生了一些案例，但我还没有听说加拿大也发生了这种情况。” "这相当令人震惊，而且不难做到，你可以免费做到,有很多在线网站。” 虽然以前就有把脸换到其他身体上的能力，但技术很落后。Grossman说，现在任何人都可以制作出令人信服的图像。 现在最难的是如何控制它。 "你面对的是全世界的人。在法律问题上，很难对这个人拥有管辖权，"她说。 "这是一个极具挑战性的问题，我认为这个问题只会越来越严重，而不会好转。” |
 |
