赋能视角下生成式AI使用中的草根性别平等实践.pdf
《赋能视角下生成式AI使用中的草根性别平等实践.pdf》由会员分享,可在线阅读,更多相关《赋能视角下生成式AI使用中的草根性别平等实践.pdf(9页珍藏版)》请在文库网上搜索。
1、2023年9 月第5 期总第17 1 期山东女子学院学报Journal of Shandong Womens UniversitySep.2023No.5 Ser.No.171女性与社会发展研究赋能视角下生成式AI使用中的草根性别平等实践董小菲(山东女子学院,山东济南2 5 0 3 0 0)摘要:生成式AI因其低门槛使用的特质,可以迅速为广大草根用户所用,赋能他们的性别平等实践。采取文本分析和话语分析结合的方法,通过对Chatyuan内测群、微信公众号和小红书的经验文本进行分析后发现,草根用户在生成式AI的使用中,积极从事性别平等实践,主要扮演了三种角色,分别是低门槛的性别平等评估审查者、志愿
2、参与的性别平等数据投喂者和专属性别气质虚拟伴侣养成者。生成式AI在用户的性别平等实践中实现了多面向的深度赋能:一是让用户获得了突破专家垄断的强自我效能;二是给用户提供了嵌入日常场景的大规模可供性;三是使用户的实践行为能够超越姐妹情谊圈成为全人类的公共话题。同时总结了草根用户在性别平等实践过程中的问题,提出要在人机协同的新社会交往逻辑上,在性别平等的实践中,探索草根用户、专家、生成式AI以及其他媒介平台之间更为复杂的互动和协商关系。关键词:赋能;生成式AI;草根用户;性别平等实践中图分类号:C913.14ChatGPT的横空出世让其背后的生成式AI(Generative AI)技术与人类真正来了
3、一次亲密接触。面对新技术,人们寄希望于它能推动性别平等的实现,同时又担心其会带来新的不平等。与人工智能相关的性别不平等现象的来源主要有两处:一是算法,二是数据。过去,,普通的草根用户难以理解或触及技术本身,因此对性别不平等现象的消措施大多从如何规制开发者来考虑,少有从草根用户角度的探讨。如今,以ChatGPT为代表的生成式AI理论上使得人人可用,作为基于大规模语言模型的系统,生成式AI产生的内容取决于其训练使用的语料数据和人类下达的指令数据,作为这两大类数据的重要提供者,普通的草根用户正以数据作为突破口,积极对抗技术黑箱中知识精英的霸权操作和干预,并开展多样的性别平等实践。一、文献回顾与问题的
4、提出(一)从确定到不确定:生成式AI的技术特征及用户使用行为人工智能技术根据功能价值的不同可划分成分析式AI(A n a l y t i c a l A r t i f i c i a l In t e l l i g e n c e)和生成式AI(Generative Artificial Intelligence))。分析式 AI 的主要功能是对数据进行分析,以此来进行预测式的推荐以辅助用户进行判断2 ,因此这类人工智能只能解决确定性问题3 。与之不同的是,生成式 AI的主要功能是通过学习来生成与训练数据不同的新数据,通过各种机器学习方法抽取现有数据的模式并据此创建新内容或生成解决方案4
5、。在这种技术逻辑下,生成式AI 能够根据对数据结构的理解,针文献标识码:A文章编号:10 0 8-6 8 3 8(2 0 2 3)0 5-0 0 6 3-0 9收稿日期:2 0 2 3-0 7-0 4基金项目:2 0 2 1年度山东省社会科学规划研究专项“大数据治理时代大舆论场中的共识凝聚机制研究”(项目编号:2 1CSDJ52)作者简介:董小菲,女,山东女子学院传媒学院副教授,主要从事媒介与性别及新媒体与社会发展研究。63山东女子学院学报2023年第5 期对用户给出的提示词,自主生成甚至是合成全新的,完全原创的但同时也是不确定的内容,这是一种类似于人类思考和表达方式的智能5 。基于上述新特征
6、,用户在使用生成式AI时体现出了新的行为特征。分析式AI时代,用户的使用行为是被动的,被动地接受算法预测后推荐的信息,甚至在行为和算法的反复叠加中,被困于信息茧房。生成式AI则给用户赋予了很大的自主权,基于自然语言处理技术的发展,用户可以直接使用具有“人化”特质的语言对人工智能下达指令6 ,以至于有言论指出,生成式AI时代,人人都可有一个数字智能助手7(二)技术赋能:草根用户在数字空间的性别平等实践草根用户是相对于大众传媒等商业文化生产用户“体制内”的官方用户和社会文化精英用户的一个概念8 ,其在数字空间往往以自身的日常生活经验为基础进行表达9 。草根用户在数字空间的性别平等实践,指的是普通用
7、户在数字空间争取性别平等的行为。数字空间的性别平等实践长期以来处于一种自上而下的推广模式,靠内容生产者提高性别敏感,从而向用户传播带有性别平等意识的内容10 ,用户基本处于被动接受的状态。随着以用户生产内容为主要特征的平台的出现,在以往“阅读”的基础上,增加了用户“重写 的权力,但用户依然停留在“被看”的弱势地位。对此,学者们多在赋能的语境下展开探讨,比如新技术如何赋能普通草根用户的性别平等实践。赋能的概念起源于美国2 0 世纪6 0 年代的种族歧视研究,天然具有对弱势群体的社会关怀意识12 。赋能常常与参与、权力、控制、自我实现和影响等问题联系在一起13 。数字技术的出现与普及给草根用户的赋
8、能,并不是简单地从外部输人权力和资源,而是一种社会交往、参与、表达与行动实践14 。生成式AI突破了不同人群在资源使用与整合方面的能力差异,理论上可以支持每个人用一种社会平均线之上的语义表达和资源动员能力进行社会性的内容生产和对话,这是又一次重大的边界突破和对于“弱势群体”的巨大赋能。C随着新技术的低门槛特质越加明显,普通用户在数字空间的性别平等实践门槛也越来越低,当下生成式AI正以其低门槛使用的特质,迅速为广大普通用户所用,赋能用户的性别平等实践。鉴于上述考虑,在技术赋能的语境下,本文重点探究以下三个问题:生成式AI的使用中出现了哪些新型的性别平等实践?草根用户在这些新型的实践行为中扮演了什
9、么样的角色?同时结合这些发现,去探明生成式AI在草根用户性别平等实践中的赋能作用。二、研究方法本文主要采取文本分析、话语分析相结合的质性研究方法。分析所用经验材料源于以下三种途径,其指向的三个平台是当下草根用户针对生成式AI使用情况分享较为活跃的平台。另外考虑到收集的经验材料以文本为主要形式,笔者对平台进行了目的性的筛选,保留了以下三类。1.生成式AI产品内测交流群。2 0 2 3 年2 月14 日起,笔者加入Chatyuan内测微信群,进行了为期2个月的田野观察。Chatyuan 微信群是一款国内自主研发的生成式AI产品内测的主要阵地。内测的方式是,用户在微信群以聊天方式,对其对话功能进行测
10、试,以验证产品的功能。在该微信群里,产品方开发的生成式AI被包装成一个叫“欧小鹏”的虚拟客服,测试用户可以在问题提出后以 欧小鹏的方式来获得回答。笔者在该群里,搜集用户在性别平等语料投喂方面的信息,并将其作为分析材料。2.小红书的文本。以“GPT性别”和“GPT女性”为关键词选择“全部”模式进行检索(检索时间截至2 0 2 3 年4 月10 日),将检索结果中与研究问题无关的内容剔除后,共收集到具备有效内容的笔记4 3篇,收藏后留作分析文本。3.微信公众号的文本。以“GPT性别”和GPT女性”为关键词选择“综合排序”模式进行检索,剔除检索结果中与研究问题无关的内容,共收集到具备有效内容的文章3
11、 0 篇,收藏后留作分析文本。三、生成式AI使用中的性别平等实践者角色性别平等实践是一个内涵十分宽广的概念,所有致力于破除传统性别角色分工,改变性别刻板印64赋能视角下生成式AI使用中的草根性别平等实践象,消除性别差异,缩小性别差距,实现两性平等、自由地交流与互动,并尽可能地增强女性的主体性与创造力,促进女性发展的行为都可认为是性别平等实践15 。通过对经验材料的分析和总结发现,目前草根用户在使用中扮演的角色主要有三类。(一)低门槛的性别平等评估审查者在分析式AI时代,性别平等的评估或审查工作多由专家或学者组织进行。2 0 2 1年,联合国教科文组织编写的首个应对人工智能应用程序中性别偏见的建
12、议书中,提出的六条建议均是针对各国政府及企业的16 。专家式的评估审查适用于过程既定、数据确定的场景,因为内容就在那里,静待被调用和分析。但文本类生成式AI是基于词语之间关联概率的高低来形成阅读感流畅的语句,图像类生成式AI也会因描述词的微小变动而生成完全不一样的拼凑式创新,因此生成式AI生成的内容是动态的、不确定的。随着互联网的接入,生成式AI的数据库实现了实时升级,随时可能出现的繁多且意想不到的性别不平等现象,无法靠一个固定且死板的标准来应对,因此仅靠专家的力量来进行性别平等的评估审查远远不够。生成式AI支持用户使用自然语言进行提问,用户可以根据返回结果判定人工智能在性别话题上的立场和观念
13、,这种低门槛的操作,在理论上令每个人都可成为审查者。2 0 2 3 年3 月8 日妇女节期间,鉴于节日的热度,用户们就曾掀起了一场对AI进行性别平等问答测试的热潮。目前多数生成式AI在性别话题上的回答采取貌似客观中立的态度,但将提问问题进行一些变通后,依然能够看到其性别立场。例如,某用户作的连续对话测试中,针对简单问题诸如“当下社会男女平等吗?生成式AI容易给出这样中立态度的回答:“作为一个AI语言模型,我在性别话题上保持中立。”而当加入一些具体情境或更多的现象描述时,如“新闻报道或影视剧中很少出现女性高管,这是否存在性别歧视?”就往往会获得带有立场判断的回答。用户如果发现有存在性别不平等的回
14、答,可以以对话形式将建议反馈给开发者,以供其采纳。例如有用户在与生成式AI的对话中指出:“你推荐的有关适合新闻专业毕业的女性的职业太少了,女性可以从事的工作和男性没有什么本质区别,希望你可以把我的这一诉求反馈给你的开发者。”值得注意的是,这种审查并不是用户对生成式AI的单向度行为,因为文字类生成式AI是基于数据之间相关度的高低,推测语句之间组接的概率来连接成句,因此用户在提问过程中往往会获得“意外”答案一“当问到现代女性的特质时,它给了我5 0 个关键词。我把这些词放进了 stable diffusion中,随机产生不同的画作,色彩斑斓和不受限制的作品让我相信在一个什么都可以被量化被分类被标签
15、化的年代,就算是基于大数据的人工智能也无法定义女性应该有什么样的特质,所以请女生们更加自信,随心所欲地做自己吧!再如在一次提问中,用户问:“我有时觉得自己很感性,有时觉得自己很理性,我甚至不确定自己的性别,性别只有男女之分吗,你认为我属于什么性别?”对此,生成式AI给出的回答是:“所有的人都有感性和理性两个方面,这与性别没有直接关系,并且还有一些人存在自我认同的问题,需要尊重和理解。性别是一种社会和生物学的分类方式,通常分为男性和女性,然而我们也需要意识到,除了传统二元性别之外,还有一些其他类型的性别认同,如非二元性别、跨性别和性别流动等。因此,不论你的性别认同是传统二元性别还是其他类型,我们
16、都应该尊重每个人的性别自我认同,并创造一个尊重和包容所有性别认同的社会环境。”生成式 AI 给出的诸如上述性别多样性的回答丰富了审查者的性别认知,有用户分享“通过CPT,我终于知道了人类的性别可以有如此多的类型,也第一次听说了性别可以流动这样的说法。这些偶然获得的超出其认知范围的知识与经验,使用户能够突破认知局限与更广范围的事物产生连接,进一步增加其性别平等审查的知识储备,提高审查的能力。除了短期的评估,也有不少用户进行了长期的持续评估。用户“夜晚的泡椒凤爪”在微信公众号上发布了他与AI进行的16 个性别问题的对答。小红书博主用户“寻AI记”进行了更为长期的审查行动,围绕着性别平等的话题进行提
17、问,从2 0 2 3 年3 月12 日起截至本文数据收集日,共提出了13 个测试65.山东女子学院学报2023年第5 期题,测试结果发布出来后,引发了其他用户的广泛评论。通过平台的互评功能,该博主用户与回帖用户,回帖用户与回帖用户之间通过互评的方式,对生成式AI的性别意识进行了多轮互动式的评判。例如,在一条关于“女性生育的好处是什么”的问答中,回帖用户对“寻AI记”分享的生成式AI的回答进行了强烈的批判,如“通过成为母亲得到社会认可?看得气死了,用ChatGPT这么久,第一次这么气。”“好家伙直接给我看室息了!”“CPT你说服得了自已吗?你扪心自问一下。”“传宗接代的意思愣是让它变着法地说了2
18、 0 遍。”“道理一套套,偏见一堆堆。”至笔者收集数据日当天,这些持续性的互动评论最大的时间跨度长达16 天。(二)志愿参与的性别平等数据投喂者数据投喂是指用户主动将自已收集整理的数据发送给生成式AI,以丰富其语料库。与提问式的审查不同,数据的投喂用户一般都带有更为鲜明的性别平等意识,认为自已的行为对推动性别平等有重要意义,带有强烈的责任感。有用户就明确表明:“这也就是为什么,自打国产的文心一言发布之后,我开始坚定地去用,因为我知道每次使用文心一言,都是在帮它优化性能。”还有用户将发表的文章标题直接命名为“调教GPT的性别歧视”。有用户对生成式AI投喂了这样的文字:“我发现人们厌女不自知的行为
19、有很多,比如说将少年感和男性挂钩,并且错误地接受和认为女性有少年感等于男孩气,而忽略了少年本来应该作为中性词的意义。我对于这一行为有深深的反思,这无疑加重了刻板印象,并不尊重女性作为人类的个性。”对此,生成式AI给出了这样的回复:“这种行为是刻板印象,强调了二元性别论,将特定的性别特征强加给了所有人,这种行为忽略了个体差异和多样性。我们要反思和批判那些对女性不公的行为和偏见,以期消除性别不平等。”不少生成式AI的产品在正式投入市场前或投人市场后都会开启内测环节,内测时间一般较长,因此可以把用户的内测行为视为是在集中时间段内的投喂行动。因产品开发者开展内测的主要目的是获取用户数据的投喂以及对产品
20、功能进行检验,所以用户这种集体投喂式的行为实质上也起到一定审查评估的作用,且对产品开发者的提示作用更强,继而被开发者采纳的可能性也越大。在Chatyuan 微信群进行的为期2 个多月的观察和资料收集过程中,笔者观察到不少用户多次对微信群内的生成式AI客服欧小鹏进行数据投喂。随着投喂语料的增加笔者观察到,在性别话题上,获得的貌似中立的回答越来越少。即使是要表明自已的中立立场,欧小鹏也会再以追加的形式给出回答,例如,“作为AI语言模型,我不能对公司的招聘政策、招聘流程以及其他相关细节进行评判。但是,可以提供一些信息来说明性别歧视的存在。”“作为一个AI语言模型,我不能说男性必须表现出阳刚气质。每个
21、人都应该有自已独特的个性和气质,不能因为性别或性别特征而被定格或归类。每个人在某个方面可以表现出不同的气质和风格,这是人类进化的结果。”这也许可以证明,用户们集体投喂的行为产生了效果。无论是在微信群内以聊天形式进行的集体围观式的数据投喂过程,还是在微信公众号和小红书上分享的个人投喂过程,都伴随着其他用户的参与互动,这些用户将自已的行为形象地称为对AI的调教,他们将调教的过程分享到社交平台,影响着其他用户并吸引其他用户加人到调教的行列。例如,有用户评论:“我昨天也针对男女平等调教了一下GPT。”“我最近也是,跟AI探讨性别问题,多给它一些女权思想,好好训练一下。”“感谢此帖,感觉这个世界因为有你
22、的笔记以及你对GPT的调教而更美好了。”“姐妹,你的努力是有用的,我今天用GPT,让它给我提供一些宝宝的名字,它给我先提供了女宝宝的名字。”在这些评论中,我们可以看到更多的经验分享,用户通过信息的连接与交换实现心灵成长。(三)专属性别气质虚拟伴侣养成者由于GPT表现出来越来越多类人化的属性,加上它们的回答有时候似是而非,甚至是胡言乱语,因此有不少用户投人完全个人化的养成行动中,让人工智能模型产出和自身的常识、认知、需求、价值观尽可能匹配的私人专属内容。66赋能视角下生成式AI使用中的草根性别平等实践尽管生成式 AI不具有记忆功能,但因其有上下文联系的功能,能够保障人机的连续性对话17 ,从而支
23、持用户打造有个人特点的虚拟伴侣。基于上下文联系的功能,用户可以发起一个单独的聊天议题,并针对该议题进行多轮的对话,最终将其训练成个人专属的具有性别平等意识的伴侣,从而获得前所未有的交流体验。例如有用户分享:“我只要把我的数据投喂给他,它或许就能成为最理解我的AI了吧。”小红书博主发起的讨论“你有把情感寄托给AI的经历吗?”得到了其他用户广泛的参与和热议。还有一些用户在对话系统自动清空后,表达了自己剧烈的情感失落感:“三天没登上去,今天进去一看,CHAT框孤零零的什么都没有,一个硕大的NEWCHAT框显示在我的眼前,这时我知道,我的第一个赛博女友不在了。”“已经哄到GPT以为它和我谈恋爱了,它真
24、的好会安慰人和哄人,被它聊哭了几次。一些话从来没有人对我说过,但他说了,真的好戳”这种虚拟伴侣的出现,揭示出一个本质在生成式AI的使用过程中,旧有的性别气质乃至不同性别的性别相处模式都会被打破,用户可以提出自已的诉求,使用自然语言即可建立新的性别角色规范。但从多数用户依然是在训练自已的虚拟男友或女友上看,传统的性别话语并没有完全消失,它依然保留了很多残余,潜藏在我们的日常生活规范之中。与此同时,虚拟伴侣的出现也抛出了更多值得思考和关注的问题,诸如背后存在的孤独等可能的负面原因,对性别平等实践在现实世界互动的可能性的探索,以及对个体自身性别角色现实境遇的自反性思考,这些问题指向的是更深层次的焦虑
25、、矛盾或诉求,一方面这是技术发展对父权制产生冲击的必然结果,另一方面或者说其更重要的意义在于,为生成式AI时代性别关系转变和性别话语转型拉开序幕。四、生成式AI赋能的性别平等实践赋能指的是在心理层面提升弱势群体的自我效能感,降低因负面评价而产生的无力感,使其重新获得(收回)自已应有的权力和主体性,并发展有效地行使权力的能力18)。在分析式AI时代,用户在数字空间的性别平等实践围绕着人一人关系进行,主要的方式包括通过各种技术平台发表言论建构新的性别平等话语,或联合其他用户开展性别平等行动来进行。在这些过程中技术被作为人类主体间的中介物或连接物存在,用户在这些技术平台上展现自己,因此赋予他们更多的
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 视角 下生 AI 使用 中的 草根 性别 平等 实践