年入4亿元？国外女网红做了一个“AI版的自己”，同时交往千名男友
杭州网 发布时间：2023-05-12 15:59
AI伦理问题同样值得关注
在2013年上映的电影《她》中，华金·菲尼克斯饰演的作家西奥多在结束了一段令他心碎的爱情长跑后，爱上了电脑操作系统里的女声。这个叫“萨曼莎”的姑娘不仅有着一把略微沙哑的性感嗓音，而且风趣幽默、善解人意，很快让孤独的男主“沦陷”了。
上述提到利用AI赚钱的美国女网红Caryn，非常容易让人联想起这部电影。而比电影里更严重的是，当AI Caryn同时与1000个现实世界的男友交往时，一系列伦理问题随之出现。比如，AI版本的Caryn会在聊天中与男友们进行各种不同尺度的暧昧。
此外，当使用AI变得十分容易，且它能够充分模拟人的声音，并掌握私人用户的大部分数据，用AI进行诈骗也会变得异常有“效率”。试想一下，当犯罪集团利用AI合成你父亲/母亲的声音，直接打电话给你，并将号码伪装成你父母的真实号码，你有多少的理性会去质疑这个你听了几十年、平日里最为熟悉的声音？
根据McAfee公布的最新报告，基于AI的语音诈骗日益猖獗，在接到诈骗电话的群体中，77%的人会导致经济损失。报告中提及了两个真实案例，其中一个通过AI模拟受害者亲人，表示因某些事情急需要钱；另一个通过AI模拟女儿，向其母亲勒索赎金，但事实上她的女儿并未被绑架。
一名诈骗犯在Discord软件上利用AI生成仿冒的网红歌手Frank Ocean的歌曲，并通过出售歌曲骗取了1.3万美元（约90188元人民币）。人们很快会意识到，AI带来的并不完全是快乐和便捷，威胁和实际的经济损失同样存在。
来源：都市快报 作者：记者 林司楠 编辑：管鹏伟
返回
