Artificial Intelligence: Subject and Object

This article is an ethical-cultural analysis of human interaction with Artificial Intelligence (AI). We treat AI as a “smart assistant” and as a potential autonomous personality. In the first case, we are talking about such threats to humans as tightened control over privacy, insecurity of personal data, fake news propagation, job cuts, and gradual devaluation of human abilities caused by the technological progress. In the second case, we are talking about the threat of enslaving humanity by AI or death of humanity resulting from the AI progress at a pace unattainable for the human brain. The article discusses options of relations with AI, depending on whether it is going to be recognized as an object or subject of morality. The article analyzes and compares interests and values of a person and AI, identifies variants of morality and ethics associated with them, determined by the specifics of technological and biological development of a personality. Proceeding from the fact that there are two major opinions on the origins of human morality – one based on conscious choice, and the other determined by biology – we argue that the main problem on the path to humans’ and AI’s unity of interests and goals will be AI’s biological “incorporeality”, since most human interests are limited to physicality and mortality. We also assume that AI is not going to be anthropocentric, and its ethics may be AI-centric or extra-specific.

Keywords

Artificial Intelligence, AI, ethics, corporality, technology

Received

30.03.2020

Publication date

31.03.2020

Number of characters

46632

Cite

GOST	Kozhevnikova M., Karpova S. Artificial Intelligence: Subject and Object // Etnograficheskoe obozrenie – 2020. – №1 C. 80-94 [Electronic resource]. URL: http://ras.jes.su/ethnorev/s086954150008759-4-1-en (circulation date: 20.04.2024). DOI: 10.31857/S086954150008759-4
MLA	Kozhevnikova, Magdalena, Karpova, Svetlana V "Artificial Intelligence: Subject and Object." Etnograficheskoe obozrenie 1 (2020):80-94. DOI: 10.31857/S086954150008759-4
APA	Kozhevnikova M., Karpova S. (2020). Artificial Intelligence: Subject and Object. Etnograficheskoe obozrenie (1), pp.80-94 DOI: 10.31857/S086954150008759-4

100 rub.

When subscribing to an article or issue, the user can download PDF, evaluate the publication or contact the author. Need to register.

Размещенный ниже текст является ознакомительной версией и может не соответствовать печатной

История и метафизика

Тело и бестелесность ИИ

ИИ сегодня и завтра

Критики и оптимисты – резюме плюсов и минусов

Последствия бестелесности

Высший разум – высшая мораль?

Варианты отношений с ИИ

* * *


1	Существование человечества в привычных для нас биологических и социальных рамках кажется уже невозможным. Более того, многие эксперты ставят под угрозу наше дальнейшее развитие. Причина этого – растущие риски, вызванные милитаризацией, экономическим неравенством и ухудшением экологической обстановки, но прежде всего связанные с развитием НБИК-технологий и разработками в сфере искусственного интеллекта (ИИ).
2	ИИ уже вышел из сферы мечтаний о будущем. Это уже наша реальность, хотя многие еще не осознают этого факта. Как пользователи интернета, клиенты банка, покупатели и пациенты мы постоянно сталкиваемся с результатами работы самообучающихся нейронных сетей, для которых мы – источник новых данных. Сегодня ИИ для нас – это прежде всего “умный помощник”, который незаметно облегчает наши повседневные задачи на работе, помогает делать покупки, выбирать варианты отдыха. Существуют опасения, что это приведет не только к закрытию рабочих мест на рынке труда, изменению характера межчеловеческих контактов, но также ограничит наши способности – например, мы перестанем ориентироваться в пространстве без помощи GPS-навигации.
3	Некоторые, напротив, считают, что “умный помощник” – это технологическое расширение наших интеллектуальных способностей, некое усовершенствование (enhancement) человечества и неизбежный логический путь развития. Существуют опасения, что ИИ перерастет в самостоятельное, сознательное, автономное существо, которое, возможно, выйдет из-под контроля людей и станет угрозой для всего человечества. Однако существует также мнение, что даже в случае, если ИИ перерастет нас, он продолжит мирно к нам относиться.
4	Данная статья вписывается в русло этико-культурологического обсуждения взаимодействия человека с ИИ и связанных с этим рисков. Мы представим искусственный интеллект – каким он есть сегодня и каким он может стать завтра, –постараемся ответить на вопрос, возможно ли, чтобы ИИ руководствовался человеческими моральными нормами, а также задумаемся над тем, зачем людям вообще создавать ИИ.
5	История и метафизика
6	История исследований ИИ началась в середине прошлого века с развития кибернетики и компьютеров; целью этого развития было создание машины, решающей логические операции. Чаще всего появление размышлений об ИИ ассоциируют с “тестом Тьюринга” (эмпирический тест, предложенный Аланом Тьюрингом в статье “Computing Machinery and Intelligence”, опубликованной в 1950 г. в философском журнале Mind). Суть его в следующем: человек взаимодействует с компьютером и человеком, в ходе взаимодействия он должен определить на основании ответов на задаваемые вопросы, с кем разговаривает – с человеком или компьютерной программой. Стоит отметить, что в 2014 г. тест Тьюринга прошел чат-бот Женя Густман (Eugene Goostman), который представился 13-летним мальчиком из Одессы: 33 % судей приняли его за человека. Однако, несмотря на растущую схожесть поведения или, вернее, подражания человеку, до создания автономной и сознательной машины, которую можно было бы назвать “личностью”, все еще далеко.

Number of purchasers: 1, views: 1129

Readers community rating: votes 0

1. Levin 2013 – Levin Zh. Funktsionalizm. Stehnfordskaya ehntsiklopediya filosofii (versiya oseni 2013 goda) / Red. Eh.N. Zalta; per. s angl. A.V. Kuznetsova. https://philosophy.3-core.ru/sep/functionalism (data obrascheniya: 10.04.2019).

2. Bostrom 2015 – Bostrom N. What Happens when Our Computers Get Smarter then We Are? // TED. March 2015. https://www.ted.com/talks/nick_bostrom_what_happens_when_our_computers_get_smarter_than_we_are

3. Harris 2016 – Harris S. Can We Build AI without Losing Control Over It? // TEDSummit. 2016. https://www.ted.com/talks/sam_harris_can_we_build_ai_without_losing_control_over_it/transcript#t-165096

4. Kai-Fu Lee 2018 – Kai-Fu Lee. How AI Can Save Our Humanity // TED. April 2018. https://www.ted.com/talks/kai_fu_lee_how_ai_can_save_our_humanity

5. Sobczak 2017 – Sobczak A. Branże o najwyższym stopniu wykorzystania AI – stan obecny i prognoza na 3 lata // Robonomika. 19 Listopad 2017. https://robonomika.pl/branze-o-najwyzszym-stopniu-wykorzystania-ai-stan-obecny-i-prognoza-na-3-lata

6. Vaal' de F. Istoki morali. V poiskakh chelovecheskogo u primatov. M.: Al'pina non-fikshn, 2014.

7. Radkovska-Val'kovich M., Kozhevnikova M. Iskusstvennyj chelovek v obrazakh literatury i kino (interv'yu) // Meditsinskaya antropologiya i bioehtika. 2011. № 1 (3). http://www.medanthro.ru/?page_id=1076

8. Gawkowski K. Cyberkolonializm: Poznaj świat cyfrowych przyjaciół i wrogów. Gliwice: Helion, 2018.

9. Ożóg M. Nauka w (krzywym) zwierciadle sztuki: problematyka sztucznej inteligencji w twórczości Kena Feingolda i Rafaela Lozano-Hemmera // Digitalne dotknięcia. Teoria w praktyce/Praktyka w teorii / Red. P. Zawojski. Szczecin, 2010. S. 43–63.

10. Przegalińska A.K. Istoty wirtualne. Jak fenomenologia zmieniała sztuczną inteligencję. Kraków: Universitas Kraków, 2016.

11. Radkowska-Walkowicz M. Od Golema do Terminatora. Wizerunki sztucznego człowieka w kulturze. Warszawa: WaiP, 2008.

Artificial Intelligence: Subject and Object

Table of contents

История и метафизика