去年 10 月，一位来自新泽西州的高中生弗朗西斯卡·马尼（ Francesca Mani ）被叫到校长办公室，她被告知，有人在网路上拍摄了她的照片，并用AI生成了她的假裸照在社群媒体上分享。Shutterstock） 【2024年01月12日讯】（记者伊铃多伦多报导）当人们为人工智能（AI）带来的便利而欢呼时，是否想到有一群人正在为它的“另类便利”而哭泣？
据BBC报导，去年 10 月，一位来自新泽西州的高中生弗朗西斯卡·马尼（ Francesca Mani ）被叫到校长办公室，她被告知，有人在网路上拍摄了她的照片，并用AI生成了她的假裸照在社群媒体上分享。
弗朗西斯卡震惊不已。当她穿过大厅，看到一群群与她有同样遭遇的同学正在哭泣（而其他人在窃笑）时，她的眼泪被愤怒和使命所取代。
“我要回家告诉妈妈……‘我们需要为此做点什么’；因为这不公平。”这位十年级学生弗朗西斯卡说。 “我想保护其他人，以免他们有我同样的遭遇。”
自事件曝光以来，弗朗西斯卡和她的母亲多罗塔·马尼(Dorota Mani)一直在与美国联邦和洲级政界人士会面，敦促更新法律、学校政策和行为准则，以解决AI被用于骚扰和虐待的问题。
弗朗西斯卡表示，她从未见过学校讨论过与人工智慧相关的霸凌或网路安全问题。
多罗塔说，“我一直在为此奋斗。我的女儿一直在为此倡导并推动我，我们确信这非常重要，”
去年10 月底，AI裸照事件曝光后，在新泽西州弗朗西斯卡就读的高中校外人行道上，出现了用粉笔写成的呼吁校方采取更多行动和问责标语， 包括：“你们正在做什么来保护学生”、“3天还不够”和“这不是意外”。但这些呼吁问责的标语很快就被雨水冲走了。
“我们需要一种能引起共鸣、有意义的方式来教育孩子，”多罗塔说，他们正处于生理的发育期，“应该以他们能够理解的方式来解释给他们听，让他们能够真正的明白。”
去年12 月，温尼伯一所学校发生了类似事件。专家表示，这是一个日益严重的问题。一些专家敦促教育官员更新课程，改善学校政策，以解决科技促成的性暴力问题，并更好地支持教师在课堂上解决这些问题。
需要更多了解网络风险
在加拿大，科技促成的性暴力和性骚扰呈上升趋势，一些青少年的AI假裸照在同学中流传， AI假裸照成了学生和教育工作者面临的一项全新而痛苦的挑战。
安省西安大略大学（Western University）副教授、加拿大不平等与性别研究主席、社会学家凯特林·门德斯(Kaitlynn Mendes) 表示，尽管科技促成的性暴力是一个较新的概念，但它涵盖了影响当今年轻人越来越多的各种事件。
其中包括：网路闪光（接收不需要的色情图像）、性勒索（强迫分享亲密图像或影片）、未经同意分享亲密图像、透过社交媒体定位器GPS进行网路追踪，以及AI生成的深度伪造图像和影片。
一份最新报告表明，针对这些风险， 学校可以对年轻人采取更多措施。 一些专家呼吁改变学校政策，以解决科技促成的性暴力问题。
门德斯是报告的合著者，她说：“在性暴力和性别暴力发生方式上，数位科技发挥着越来越大的作用。”该报告深入探讨了加拿大省份或地区的学校政策和课程是如何解决这一问题的。
人们普遍认为，如果在未经允许的情况下暴露或分享他人私密照片，这与霸凌不是一回事，因为它改变了欺凌行为的方式，所以需要将这些行为重新定义为性暴力的一种形式。
门德斯和她的同事发现，学生所学到的与性暴力或性别暴力相关的主题并不一致。 根据地区的不同，这些问题可以在生活技能课程、体育和健康、传播甚至电脑研究中进行探讨。
报告还指出，很少有司法管辖区引用社交媒体或人工智慧等最新技术，大多数司法管辖区也没有解决学生线上和线下发生的事情之间的联系。
例如，“他们会谈论在线下发生的性暴力或性别暴力，却没有意识到数位技术是如何被用来为这些暴力提供便利的。”门德斯解释道。
“各省和地区确实谈论网路霸凌，但他们甚至没有（触及）……我们近年来看到的所有新的发展。”她说，每个省份和地区都有改进的空间，包括让学生更早开始学习。 门德斯认为，小学生早在开始学习性或性暴力之前就可以学习尊重、同意、隐私权、身体自主权和成为优秀的数位公民等原则。
呼吁改善教育方式
教育工作者如何建立他们的课程也很重要。
“确保年轻人在使用数位科技时了解自己的权利和责任。他们应知道道德行为规范，而且知道出现问题时该怎么办。他们知道可以与谁交谈等。 ”门德斯说。
门德斯表示，需要让青少年摆脱羞耻感，因为在与很多青少年交谈后，她获悉，当事情出现问题时，他们很少去找成年人，因为他们害怕被告知“你是个白痴。这是你的错。你的人生完了。”
需要更多培训和资源
性健康教育家卡莉·麦克菲(Carlie McPhee) 花了近十年时间，为高中生提供课堂课程，为教师提供专业发展课程，为家长提供资讯课程，她认为成年人需要了解青少年生活中正在发生的事情，并保持开放的态度，让学生放心地寻求帮助和指导。
这位来自温哥华的教育家毫不犹豫地询问青少年什么是酷的，或他们正在使用什么社交媒体。
“他们很乐意让我知道我已经过时了。”她说。因为这打开了大门让青少年提问，关于人工智慧深度假货的提问从去年秋末开始出现。
随着年轻人在网路上分享亲密时刻，专家表示有关性的对话需要改变。
在听到许多教育工作者表达的类似挑战后，麦克菲的目标是发展一系列教师可以使用的可用资源。 目前教师们几乎没有接受过相关内容的培训，不知道如何正确的引导学生们面对数字网络的挑战。
尽管如此，作为一名与课堂教育工作者同行的性健康专家，她说：“我们正在努力控制这个问题，并确保我们拥有关键的资讯和技能来帮助孩子们保持安全、做出明智的决定，知道如果发生某些事情如何应对，并且了解他们需要了解在网上的责任。”
家长的作用很关键
多伦多公校教育局中文教师唐育英表示，AI 在教学方面确实带来很多便利，它几乎是万能的，可以帮助解决很多复杂的问题，帮助老师做课程计划，帮助学生做功课等。但是它也被不法之徒利用来做坏事，特别是对青少年的网络暴力犯罪，比如诈骗、性犯罪等。
她说，现在教育系统还没有相应的法律、法规来保障青少年不受网络暴力侵害，因为科技走得太快了，法律、法规跟不上。
她相信老师在教授学生使用AI 的时候，已经告诉学校它的另一面作用。既它能给你带来方便，它也可以把你的头像拍下来，用于干坏事。
她说，关键是家长和老师要重视。首先作为成年人应该了解AI 是怎么事，他会对青少年带来哪些影响。家长要密切关注孩子，要陪伴孩子走过青少年成长期，引导他们在正确的道路稳定前行。
这个过程中，家长的亲密陪伴很重要，关注孩子喜欢什么，生活上多沟通；常常提醒孩子，哪些该做，哪些不该做。
她说，特别是10几岁青春期的孩子（Teenage）很容易迷失自己，这个年龄孩子很好奇，又喜欢自我表现。如果家长不闻不问，孩子就容易走偏。因此家长一定要跟孩子紧密联系，经常沟通、交流，这样家庭的孩子不会出错。
责任编辑：文风