科技是把双刃剑，浅浅试用过一些AI产品之后，确实认为此次的AI的应用有类似于电力和内燃机发明的情景了。 但相对于工业技术革命，带来的效率提升，反而觉得这次AI技术的应用，对社会带来的潜在风也会更高。下面均为个人浅显想法，仅供讨论
潜在风险：
1）隐私，欺骗与诈骗 2）数据价值更加集中在大公司手中 3）伦理问题
隐私，欺骗与诈骗
目前很多开源的项目，类似facefusion，GPTSoVits 等，稍微懂一些技术知识的，对于这些替换声音的，替换脸，便可以很快速的部署，应用在视频，甚至实时的替换。 这对于此前的反诈宣传来说，是升级版的Boss，原来只是谨防陌生人，现在连熟人都得防范。 替换的成本之低也令人咋舌，一张照片，60s的录音就能做到。 而现在的社媒上充斥着个人的资料，大公司也掌握着个人的信息，对于有些名气的人更是如此，已经几乎无法抹去在互联网上他的”身份ID“。
短期的话，对于一些熟人借钱的情况，还是需要打开视频认证，在应用比如wechat 视频等，应该还无法添加类似的插件，但是对于网页端的一些视频，或者奇奇怪怪的app，需要多加小心。 另外目前的替换主要是五官，如果不放心，可以尝试要求对方快速摇头，弄弄头发，做一些遮挡等，来进行检查。或者询问一些两个人才比较知晓的事情。
对于一些金融行业的从业者来说，在app内个人身份验证，可能也需要多加注意，此前防止静态图片的，眨眼，摇头等。 这个已经成为产业链了，央视也经过报道了。
当前对一个人的”克隆“在外表层面已经很成熟，对于刚才说的技术不成熟的方面，比如快速摇晃，遮挡等，解决其实只是早晚的问题。 未来对这部分的防范，和对很多普通人的保护，可能需要在技术层面增加更多的限制，以及指定明确的法律法规来禁止。
技术方面，在个人身份验证的方面，如何识别是”本人“，可能需要添加更多的特征，比如活体识别技术，如虹膜识别等。每个人在互联网世界的独特id需要得到更好的加密和保护。
数据价值更加集中在大公司手中
在互联网2.0时代一直值得诟病的一个问题的就是，用户的数据价值并没有属于用户，都是集中到了其他的公司手中，虽然互联网公司可能付出了一定的存储和运营成本，但用户的数据的价值却远高于此。 AI是在大数据和超级运算量中产生的，这两件是又明显的是大公司有更多的优势，固有存量数据，大量的用户还能产生和反馈新的数据，有足够的资本进行超级运算。 由于AI就是一个不断反馈自更新的过程，使用的越多，训练量越多，优质数据越多，反馈的越多，效果就更好，这更容易产生一个头部效应。 使得用户最终”不得不”还是转向到这些产品里。 那么在这个体系中，C端和G端如何获得对应在数据端的价值，可能也更值得考虑和思考。
伦理问题
科技的尽头是伦理和神学么？ 就经典的“有轨电车” 问题，自动驾驶的尽头应也是伦理问题。
“有轨电车”其大致内容为：一辆失控的列车在铁轨上行驶。在列车正行进的轨道上，有五个人被绑起来，无法动弹。列车将要碾压过他们。你站在改变列车轨道的操纵杆旁。如果拉动此杆，则列车将切换到另一条轨道上。但是，另一条轨道上也有一个人被绑着。你有两种选择：
- 什么也不做，让列车按照正常路线碾压过这五个人。
- 拉下操纵杆，改变为另一条轨道，使列车压过另一条轨道上的那个人。
从功利主义角度看，为追求对最大多数人来说的最大效益，应该牺牲少数人来拯救多数人。因此，在上述两个版本的思想实验中，都应该要牺牲一个人，来拯救五个人。
从康德主义角度看，道德应该建立在必要的义务责任上。如果不可以杀人是一种道德义务，就不可以在上述两个版本的思想实验中动手让一个人牺牲，即使这个行为的后果是牺牲五个人。
这里不讨论哪个方向更为正确。 人工智能也是如此，这里暂时不讨论AI是否自己有思想的终极话题，现在单单在应用技术的场景上已经衍生出了诸多的矛盾，有一则新闻是说，有一个粉丝利用AI技术，复刻了一个已故明星的模型，让“他”仍然能够陪他说话，或者唱歌。 这对已故明星的家属来说，认为不可接受，认为是让这个明星不得安息。那么问题来了，这个已故明星在互联网上的碎片归属于谁呢？谁有权使用它，谁又没权使用呢？ 如果是你呢？你是否愿意用这个技术“唤醒”你已故的亲人？ 如果那个模型读取了你和“他”模型上所有的对话，学习了你们所有的过去，已经“成为”了他。 你愿意有“他”的陪伴么？