新德里，12月22日:人工智能(AI)和机器学习(ML)技术的进步使不良行为者能够采用超现实的数字伪造，因此，接近真实的图像/音频剪辑可能被用来损害声誉、剥削人民、破坏选举、传播大规模错误信息、伪造证据，并在总体上破坏信任。

　　当人工智能和机器学习被用来编辑和操纵数字媒体(视频、音频和静止图像)时，就会产生深度伪造。深度造假模糊了虚构与现实之间的界限。合伙人和律师、JSA倡导者和律师Sajai Singh和Mary Julie John在与IANS的对话中帮助我们更好地理解了这件事:

　　IANS:人工智能的进步对深度假视频的制作和检测有何影响?正在采取哪些措施来解决这项技术可能被滥用的问题?辛格:目前的担忧是即将到来的2024年大选，以及如何在战略上利用政治信息。目前，印度没有具体的法律法规来禁止或规范人工智能、机器学习或深度伪造技术的使用。

　　但是，如果发生了违法行为，可以根据几项法律进行追索。例如，2000年《信息技术法》涵盖了侵犯个人隐私和恶意操纵其图像的行为。社交媒体中介机构可能会被要求删除冒充他人的内容。然后，印度刑法典可能会提供保护。如果图像和视频存在版权侵犯，则可以参考1957年的《版权法》。

　　因此，我们已经从使用编辑工具(如Photoshop)来创建，改进或增强数字图像走了很长一段路。这是对人工智能和机器学习技术的负面看法，这些技术在教育、电影制作、刑事取证和艺术表达领域有着巨大的好处。

　　另一个担忧是，使用人工智能和机器学习技术创建深度造假不再是一些熟练软件工程师的精英领域。这项技术今天很容易使用，更便宜，更快，半熟练和不熟练的个人也能接触到。虽然深度造假被用于针对女性存在性别偏见，但人们越来越担心，深度造假可能会实施技术促进的在线性别暴力。

　　在印度，我们从2020年开始使用深度造假技术。公众对这个话题的讨论始于印度人民党(BJP)领导人Manoj Tiwari在德里选举前对Arvind Kejriwal提出指控的视频。然后是中央邦国大党主席Kamal Nath关于邦政府Laadli Behna计划的篡改视频。

　　最近的一个视频是演员拉什米卡·曼丹娜穿着紧身衣进入电梯的形象(可能是基于英裔印度网红扎拉·帕特尔的原始视频)。随着“数字复制品”的兴起，这个问题对全球演员来说变得越来越具有挑战性。“如果未经同意和赔偿，这种形式的深度伪造可能会剥夺艺术家的生计。”

　　在政府出台人工智能管理草案之前，人们需要等待并观察政府对这一令人不安的趋势的看法。当然，政府最好不要急于制定一项全面的法律，因为技术可能很快就会过时。

　　IANS:人工智能驱动的深度假技术的扩散带来了哪些道德和法律挑战?监管机构和科技行业如何合作来缓解这些挑战?辛格:对于这个问题的监管机构，人们需要看看电子和信息技术部(MeitY)。印度交通运输部正在制定新的法规或对现有法律进行修订，以应对深度造假。”

　　从现有信息来看，有关该主题的法律将基于发现深度造假，防止它们，建立申诉和报告机制，并提高对该问题的认识。”希望这种四管齐下的方法能给网络空间中的数字抱怨者带来安慰。在起草新法律时，如何检测深度造假的意识也应列入政府的议程。在这一点上的宣传对任何人来说都是必不可少的，因为他们可以根据自己所看到的来权衡该相信什么。

　　印度新闻社:印度目前的法律框架是否能够有效管理人工智能技术在不同行业的使用?约翰:2018年和2021年，政府分别推出了一套名为“国家人工智能战略”和“负责任的人工智能指南”的人工智能使用指南;但是这些指导方针不是强制性的，因此不能作为法律强制执行。

　　虽然欧盟最近提出了一项专门的人工智能法律，以“确保人工智能系统内的安全、合法性、可信赖性和对基本权利的尊重”，但在印度没有任何类似的法律。然而，这些保护可以通过对当前数据保护法和其他部门特定法律的综合解读来和谐地构建，并可以制定一项谨慎或谨慎的标准。

　　印度人:印度的数据保护法在管理人工智能进步带来的道德和隐私问题方面有多强大?JOHN:在印度，最近发布的《2023年数字个人数据保护法》(DPDP法案)充满了希望，我们期待通过进一步实施DPDP法案和推出附属立法，建立一个更好、更有效的数据保护监管框架。

　　目前，由于2000年《信息技术法》和2011年《信息技术(合理的安全实践和程序以及敏感个人数据或信息)规则》的相关规定尚未被废除，因此它们继续作为法律存在。

　　我们还在等待广为人知的“数字印度法案”，该法案将寻求在其他新兴技术中规范人工智能。尽管目前的数据保护框架并没有专门针对人工智能，但这些法律可以被解释为解决基于人工智能的技术产生的任何数据隐私问题。

　　简而言之，解决深度造假问题需要所有利益相关者之间的合作。不仅需要制定/修改法律，技术参与者和公民社会也需要在这一倡议中发挥作用。

　　“外国政府(如美国和欧盟)可能会被问及他们目前如何处理这个问题。跨境合作可能是关键。最后，更深入地了解生成式人工智能技术的工作原理对普通人来说至关重要。执法部门应该善于调查和逮捕坏人。”