Draudzīgs AI ir termins, ko mākslīgā intelekta (AI) pētnieki izmanto, lai apzīmētu AI sistēmas, kuras kopumā veic darbības, kas ir noderīgas cilvēcei, nevis neitrālas vai kaitīgas. Tas nenozīmē aklu paklausību – gluži pretēji, šis termins tiek lietots, lai aprakstītu AI sistēmas, kas ir draudzīgas tāpēc, ka tās vēlas būt, nevis kāda ārēja spēka dēļ. Papildus atsaucei uz pabeigtām sistēmām, Friendly AI ir arī teorētiskās un inženierijas disciplīnas nosaukums, kas tiktu izmantota šādu sistēmu veiksmīgai izveidei.
Terminu “draudzīgs AI” radīja Eliezers Judkovskis no Mākslīgā intelekta Singularitātes institūta, kura mērķis ir izveidot draudzīgu AI, kas ir pietiekami gudrs, lai uzlabotu savu pirmkodu bez programmētāja iejaukšanās. Viņa grāmatas garais darbs par šo tēmu “Draudzīga mākslīgā intelekta izveide”, kas publicēts tiešsaistē 2001. gadā, iespējams, ir pirmais stingrs šīs tēmas apskats jebkur. Judkovskis atsaucas uz evolūcijas psiholoģijas un citu kognitīvo zinātņu argumentiem, lai atbalstītu savu pieeju draudzīgā AI problēmai.
Draudzīgs AI tiek uzskatīts par svarīgu kā akadēmisku disciplīnu, jo pagātnes mēģinājumi “atbildēt” uz negodīgā AI problēmu parasti atsaucās uz stingriem programmatiskiem ierobežojumiem, kas alternatīvu interpretāciju gadījumā noteikti sabruks, kad AI kļūst gudrāks par cilvēkiem vai vienkārši iegūst spēja pārprogrammēt sevi. Antropomorfisms ir arī AI problēma. Tā kā evolūcija veido organismus, kas mēdz būt savtīgi, daudzi domātāji pieņem, ka jebkuram mūsu izveidotajam AI būs tāda pati tendence vai nu uzreiz, vai pēc tam, kad kļūstam pietiekami gudri.
Evolūcija veido organismus ar uz sevi vērstām mērķu sistēmām, jo cita ceļa nav. Altruistisku mērķu sistēmu attīstība prasīja daudzus miljonus gadu, un tas notika tikai apstākļos, kad vienas cilts locekļiem bija daudz ko iegūt, palīdzot viens otram, un daudz zaudēt, to nedarot. Bet, ja mēs izstrādātu prātu no nulles, mēs varētu to izveidot bez uz sevi vērstas mērķu sistēmas. Tas nebūtu “AI ierobežošana” – tā vienkārši radītu pēc būtības nesavtīgu AI.
Iepriekš minētais novērojums ir viens no daudzajiem, kas veicina draudzīgā AI jomu, kas ir ārkārtīgi jauna un joprojām ir daudz jāstrādā. Daži AI pētnieki apgalvo, ka mēs nevaram noteikt dizaina iezīmes, kas nepieciešamas draudzīgā AI ieviešanai, kamēr mums nav gudrākas AI sistēmas, ar kurām eksperimentēt. Citi apgalvo, ka tīri teorētiska pieeja ir ne tikai iespējama, bet arī ētiski nepieciešama, pirms sākt nopietnu vispārēju AI mēģinājumu.