The malicious use of political deepfakes and attempts to neutralize them in Latin America

 
PIIS0044748X0025404-3-1
DOI10.31857/S0044748X0025404-3
Publication type Article
Status Published
Authors
Affiliation:
Address: Russian Federation, Moscow
Journal nameLatin America
EditionIssue 5
Pages35-48
Abstract

Deepfake technology has revolutionized the field of artificial intelligence and communication processes, creating a real threat of misinformation of target audiences on digital platforms. The malicious use of political deepfakes has become widespread between 2017 and 2023. The political leaders of Argentina, Brazil, Colombia and Mexico were attacked with elements of doxing. Fake videos that used the politicians' faces undermined their reputations, diminishing the trust of the electorate, and became an advanced tool for manipulating public opinion. A series of political deepfakes has raised an issue for the countries of the Latin American region to develop timely legal regulation of this threat. The purpose of this study is to identify the threats from the uncontrolled use of political deepfake in Latin America. According to this purpose, the author solves the following tasks: analyzes political deepfakes; identifies the main threats from the use of deepfake technology; examines the legislative features of their use in Latin America. The article describes the main detectors and programs for detecting malicious deepfakes, as well as introduces a scientific definition of political deepfake.

Keywordspolitical deepfakes, doxing, disinformation, legal framework, information-psychological influence, internal political security, artificial intelligence technologies, political leader, social networks, media, elections
Received05.02.2023
Publication date31.05.2023
Number of characters24838
Cite  
100 rub.
When subscribing to an article or issue, the user can download PDF, evaluate the publication or contact the author. Need to register.

Number of purchasers: 0, views: 204

Readers community rating: votes 0

1. Базаркина Д.Ю., Пашенцев Е.Н. Злонамеренное использование искусственного интеллекта: вызовы информационно-психологической безопасности в Латинской Америке. Социально-гуманитарные знания, М, 2020, № 4, сс. 248-260. [Bazarkina D.U., Pashentsev E.N. Zlonamerennoye ispol'zovaniye iskusstvennogo intellekta: vyzovy informatsionno-psikhologicheskoy bezopasnosti v Latinskoy Amerike. [The Malicious Use of Artificial Intelligence: Challenges to Information and Psychological Security in Latin America]. Sotsial'no-gumanitarnyye znaniya, Moscow, 2020, N 4, pp. 248-260. (In Russ.) (DOI 10.34823/SGZ.2020.4.51416).

2. Pinheiro de Resende S.M. The effects of deepfakes on politics and on data justice issues – a perspective from Brazil and the United States. A thesis submitted for the degree of Master of Law & Technology, Tilburg, 2021, 52 p.

3. El 70% de los latinoamericanos ignora la existencia de los DeepFake. Available at: https://www.innovaciondigital360.com/i-a/el-70-de-los-latinoamericanos-ignora-la-existencia-de-los-deepfake/ (accessed 10.10.2022).

4. Lussier N. Nonconsensual deepfakes: detecting and regulating this rising threat to privacy. University of Idaho College of Law, L. Rev, 2022. Available at: https://digitalcommons.law.uidaho.edu/idaho-law-review/vol58/iss2/6 (accessed 21.03.2023).

5. Gomes-Gonçalves S. Los deepfakes como una nueva forma de desinformación corporativa – una revisión de la literature. International review (Irocamm), Sevilla, 2022, Vol. 5, N 2, pp. 22-38. (DOI: dx.doi.org/10.12795/IROCAMM. 2022.v05.i02.02).

6. Hwang T. Deepfakes. A Grounded Threat Assessment. Center for Security and Emerging Technology (CSET), Washington, 2020, 50 p.

7. Bañuelos Capistrán J. Deepfake: la imagen en tiempos de la posverdad. Revista Panamericana De Comunicación, México, 2020, Vol. 2(1), pp. 51–61. (DOI: https://doi.org/10.21555/rpc.v0i1.2315).

8. Nasu H. Deepfake Technology in the Age of Information Warfare. New York, 2022. Available at: https://lieber.westpoint.edu/deepfake-technology-age-information-warfare/ (accessed 26.12.2022).

9. Ajder H., Patrini G., Cavalli F., Cullen L. The State of Deepfakes: Landscape, Threats, and Impact. 2019, 27 p. Available at: https://regmedia.co.uk/2019/10/08/deepfake_report.pdf (accessed 28.03.2022).

10. Pantoja De Moraes C. «Deepfake» como ferramenta de manipulação e disseminação de «fakenews» em formato de vídeo nas redes sociais. Biblios, Rio de Janeiro, 2020, N 79, pp. 63-72. (DOI: 10.5195/biblios.2020.864).

11. Botha J., Pieterse H. Fake News and Deepfakes: A Dangerous Threat for 21st Century Information Security. Conference: 15t International Conference on Cyber Warfare and Security At: Old Dominion University, Norfolk, 2020. Available at: https://www.researchgate.net/publication/341454354_Fake_News_and_Deepfakes_A_Dangerous_Threat_for_21st_Century_Information_Security (accessed 14.01.2022).

12. Martínez V. C., García Guardia M. L., Padilla Castillo G. Alfabetización moral digital para la detección de deepfakes y fakes audiovisuales. CIC. Cuadernos de Información y Comunicación, Madrid, 2020, N 25, pp. 165-181. (DOI: https://doi.org/10.5209/ciyc.68762).

13. Ray A. Disinformation, Deepfakes and Democracies: The Need for Legislative Reform. The University of New South Wales law journal, Sydney, 2021, Vol. 44(3):983, pp. 983-1013. (DOI:10.53637/DELS2700).

14. Byman D. L., Gao C., Meserole C., Subrahmanian V.S. Deepfakes and international conflict. 2023, 22p. Available at: https://www.brookings.edu/research/deepfakes-and-international-conflict/ (accessed 21.01.2023).

15. Helmus T. C. Artificial Intelligence, Deepfakes, and Disinformation. 2022, 24 p. Available at: https://www.rand.org/pubs/perspectives/PEA1043-1.html (accessed 3.01.2023).

16. Лексютина Я.В. Злонамеренное использование дипфейков: риски информационно-психологической безопасности Японии. Японские исследования, М, 2021, № 3, сс. 90-101. [Leksyutina Y.V. Zlonamerennoye ispol'zovaniye dipfeykov: riski informatsionno-psikhologicheskoy bezopasnosti Yaponii. [Malicious use of dipfakes: information-psychological security risks for Japan]. Yaponskiye issledovaniya, Moscow, 2021, N 3, pp. 90-101. (In Russ.). (DOI: 10.24412/2500-2872-2021-3-90-101).

17. Игнатовский Я. Р., Иванов В.Г. Deepfakes: перспективы применения в политике и угрозы для личности и национальной безопасности. Вестник Российского университета дружбы народов. Серия: Государственное и муниципальное управление, М, 2020, Т.7, № 4, сс. 379-386. [Ignatovskiy Y. R., Ivanov V.G. Dipfeyki: primeneniye v sfere politiki i vozdeystviya na lichnuyu zhizn' i natsional'nuyu bezopasnost'. [Deepfakes: Prospects for Political Use and Threats to the Individual and National Security]. Vestnik Rossiyskogo universiteta druzhby narodov. Seriya: Gosudarstvennoye i munitsipal'noye upravleniye, Moscow, 2020, Vol. 7, N 4, pp. 379-386. (In Russ.). (DOI: 10.22363/2312-8313-2020-7-4-379-386).

18. Фалеев М.А., Ситдикова М.А., Нечай Е.Е. Дипфейк как феномен политической коммуникации. Вестник ЗабГУ, Чита, 2021, Т. 27, № 6, сс. 101-106. [Faleyev M.A., Sitdikova M.A., Nechay Ye.Ye. Dipfeyk kak fenomen politicheskoy kommunikatsii. [Deepfake as a phenomenon of political communication]. Vestnik ZabGU, Chita, 2021, Vol. 27, N 6, pp. 101-106. (In Russ.) DOI: 10.21209/2227-9245-2021-27-6-101-106).

19. López-López P.C., Dagatti M., Mendoza M. El impacto de las noticias falsas y la desinformación en las democracias de América Latina y el Caribe. Cuadernos del Centro de estudios de diseño y comunicación. Palermo, 2022, Vol. 161, pp. 11-18. (DOI: https://doi.org/10.18682/cdc.vi161.6975).

20. Just Joking. Deepfakes, satire, and the politics of synthetic media. Cambridge, 2022. 48p. Available at: https://cocreationstudio.mit.edu/wp-content/uploads/2021/12/JustJoking.pdf (accessed 25.12.2022).

21. López J. Tragic Realism: How to regulate Deepfakes in Colombia? Latin American Law Review, Bogotá, 2022, N. 8, pp. 125-145 (DOI:https://doi.org/10.29263/lar08.2022.08).

22. Цветкова Н. А., Гришанина Т. А. Цифровая сила в странах Латинской Америки: хэштеги и дипфейки как политические инструменты. Латинская Америка, М, 2023, №3, сс. 21-33. [Tsvetkova N. A., Grishanina T. A. Tsifrovaya sila v stranakh Latinskoy Ameriki: kheshtegi i dipfeyki kak politicheskiye instrumenty [Digital Power in Latin America: Hashtags and deepfakes as political tools]. Latinskaya Amerika, Moscow, 2023, N 3, pp. 21-33. (In Russ.). (Doi 10.31857/S0044748X0024414-4).

23. Gandulfo D. Tenemos que hablar del impacto de las fakes news en las democracias latinoamericanas. Available at: https://www.iade.org.ar/noticias/tenemos-que-hablar-del-impacto-de-las-fakes-news-en-las-democracias-latinoamericanas (accessed 16.02.2023).

24. The spread of true and false news online. Available at: https://www.science.org/doi/10.1126/science.aap9559 (accessed 19.02.2023).

25. Martínez L. Es falso el video de Alberto Fernández en el que habla como «borracho»: las imágenes fueron manipuladas. Available at: https://chequeado.com/el-explicador/es-falso-el-video-de-alberto-fernandez-en-el-que-habla-como-borracho-las-imagenes-fueron-manipuladas/ (accessed 19.10.2022).

26. El Gobierno presentó los ejes de un programa de Desarrollo. Plan 2030 para crear dos millones de empleos. Available at: https://www.pagina12.com.ar/411724-plan-2030-para-crear-dos-millones-de-empleos (accessed 17.10.2022).

27. Pacheco V. El primer deepfake electoral muestra números falsos en la encuesta para president. Available at: https://www.showmetech.com.br/deepfake-das-eleicoes-mostra-pesquisa-falsa/ (accessed 17.12.2022).

28. Fact Check-Video de la renuncia de Duque a su cargo es de 2018, cuando era senador. Available at: https://www.reuters.com/article/factcheck-ivanduque-renuncia-idUSL1N2MY1IB (accessed 8.12.2022).

29. Виноградова Е.А. Технологии искусственного интеллекта и нарастающие киберугрозы в Латинской Америке. Латинская Америка, М, 2023, № 3, сс. 34-48. [Vinogradova E.A. Tekhnologii iskusstvennogo intellekta i narastayushchiye kiberugrozy v Latinskoy Amerike. [Artificial intelligence technologies and the rise of cyber threats in Latin America]. Latinskaya Amerika, Moscow, 2023, N 3, pp. 34-48. (In Russ.). (DOI: 10.31857/S0044748X0024415-5).

30. Los deepfakes y cómo los medios están combatiendo la desinformación creada con Inteligencia Artificial. Available at: https://www.elnacional.com/ciencia-tecnologia/los-deepfakes-y-como-los-medios-estan-combatiendo-la-desinformacion-creada-con-inteligencia-artificial/ (accessed 20.12.2022).

31. Gaceta Oficial Nº 5.763 Extraordinario de la República Bolivariana de Venezuela. 16 de marzo de 2005. Available at: http://www.annaobserva.org/observatorio/wp-content/uploads/2018/03/C%C3%93DIGO-PENAL-DE-VENEZUELA.pdf (accessed 23.03.2022).

32. Partidos políticos uruguayos firmaron compromiso contra generación y difusión de noticias falsas. Available at: https://www.gub.uy/presidencia/comunicacion/noticias/partidos-politicos-uruguayos-firmaron-compromiso-contra-generacion-difusion (accessed 23.11.2022).

33. Ley Especial de Ciberdelitos - Asamblea Nacional de Nicaragua. Available at: http://legislacion.asamblea.gob.ni/SILEG/Iniciativas.nsf/7B68B3A67F9B9C65062585F10059EFF6/$File/LEY%20ESPECIAL%20DE%20CIBERDELITOS%2030092020.pdf?Open (accessed 27.12.2022).

34. La Ley Orgánica de Elecciones señala en su artículo 181 que la propaganda electoral debe hacerse dentro de los límites que señalan las leyes. Available at: https://leyes.congreso.gob.pe/Documentos/2016_2021/Proyectos_de_Ley_y_de_Resoluciones_Legislativas/PL06567-20201029.pdf (accessed 25.03.2022).

35. Projeto de Lei 2630/20 institui a Lei Brasileira de Liberdade, Responsabilidade e Transparência na Internet. Available at: https://legis.senado.leg.br/sdleg-getter/documento?dm=8110634&disposition=inline (accessed 29.12.2022).

36. Proyecto de Ley «Que sancional el incumplimiento de las medidas dispuestas ante alertas epidemiologicas e en estado de emergencia sanitaria declarada», presentado por el senador Pedro Arthuro Santa Cruz Insaurralde, de fecha 16 de marzo de 2020. Available at: http://silpy.congreso.gov.py/expediente/120258 (accessed 29.03.2022).

37. La Cámara Electoral creó un registro de sitios web y redes sociales oficiales de candidatos y agrupaciones políticas. Available at: https://www.cij.gov.ar/nota-31460-La-C-mara-Electoral-cre--un-registro-de-sitios-web-y-redes-sociales-oficiales-de-candidatos-y-agrupaciones-pol-ticas.html (accessed 27.12.2022).

38. Gandulfo D. Tenemos que hablar del impacto de las fakes news en las democracias latinoamericanas. Available at: https://www.iade.org.ar/noticias/tenemos-que-hablar-del-impacto-de-las-fakes-news-en-las-democracias-latinoamericanas (accessed 23.12.2022).

39. NODIO, el Observatorio de la desinformación y violencia simbólica. Available at: https://defensadelpublico.gob.ar/llego-nodio-el-observatorio-de-la-desinformacion-y-la-violencia-simbolica/ (accessed 28.12.2022).

40. Lubianco J. Once leyes y proyectos de ley contra la desinformación en América Latina implican multas, cárcel y censura. Available at: https://latamjournalismreview.org/es/articles/leyes-contra-desinformacion-america-latina/ (accessed 29 .12.2022).

41. TSE lança campanha “#EuVotoSemFake”, contra a desinformação nas eleições. Available at: https://www.tre-mt.jus.br/comunicacao/noticias/2020/Setembro/tse-lanca-campanha-201c-euvotosemfake201d-contra-a-desinformacao-nas-eleicoes (accessed 21.03.2022).

42. Higuera S. Por iniciativa de asociación de periodistas, partidos políticos de Uruguay firmarán pacto contra la desinformación. Knight Center for Journalism in the Americas. Austin, 2019. Available at: https://latamjournalismreview.org/es/articles/por-iniciativa-de-asociacion-de-periodistas-partidos-politicos-de-uruguay-firmaran-pacto-contra-la-desinformacion/ (accessed 19.03.2022).

43. Iciar_gutierrez pic.twitter.com. Available at: https://t.co/ePGO7vtbn0Por @iciar_gutierrez pic.twitter.com/oN1QUjBZLR (accessed 17.03.2023).

44. Gutiérrez I. Un vídeo recrea con inteligencia artificial la imagen y la voz de un periodista asesinado en México: «Aclaren este crimen». Available at: https://www.eldiario.es/internacional/video-recrea-inteligencia-artificial-imagen-voz-periodista-asesinado-mexico-aclaren-crimen_1_6372262.html (accessed 10.02.2022).

Система Orphus

Loading...
Up