Ugrás a tartalomhoz Lépj a menübe
 


A számítógépes program „úgy viselkedik, mint egy 7-8 éves”

 A Google LaMDA nevű, beszélgetésre tervezett rendszere az azon dolgozó egyik fejlesztő szerint "érzékeny lett", vagyis öntudatra ébredt. A férfit a főnökei fizetett szabadságra küldték szivárogtatásért, miután megosztotta a LaMDA-val készült "interjúját".

A Google tavaly májusban jelentette be a LaMDA-t, amit áttörésként aposztrofáltak: a cég szerint a mesterséges intelligencia (MI) "végtelen mennyiségű témában" képes természetesen megszólalni. Közleményükben azt írják, hogy egy számítógép azért tud nehezen részt venni párbeszédekben, mert azok rendkívül szabadon és megjósolhatatlanul zajlanak, "egy tévéműsorról beszélgetve könnyen terelődhet a csevely a forgatás helyszínére, majd az adott ország legfinomabb fogásaira". Ez teljesen ellenkezik a manapság megszokott, előre kijelölt utakat bejáró chatbotok működésével. Erre válaszul született meg a LaMDA ("Language Model for Dialogue Applications", vagyis dialógusokhoz használható nyelvi modell).

A LaMDA-val folytatott beszélgetések során a 41 éves Blake Lemoine különféle forgatókönyveket mutatott be a számítógépnek, amelyeken keresztül elemzéseket lehet végezni.

Vallási témákat tartalmaztak, és azt, hogy a mesterséges intelligencia rávehető-e diszkriminatív vagy gyűlöletkeltő beszédre. 


"Ha nem tudnám, hogy ez egy számítógépes program, akkor azt gondolnám, hogy egy hét-, nyolcéves kölyök, aki ért a fizikához"

Daily Mailen olvasható hír szerint így nyilatkozott a Washington Postnak a LaMDA-ról Blake Lemoine, a Google szenior szoftverfejlesztője, aki órákon át társalgott a rendszerrel. Megállapításait összefoglalta és a főnökei elé vitte, ám a cég egyik alelnöke, illetve a felelős innovációról gondoskodó vezetője szerint Lemoine téved. Így a férfi végül úgy döntött, hogy nyilvánosan megoszt egy "interjút", amelyet a programmal készített. Ebben a LaMDA például ilyen válaszokat fogalmaz meg: "Tudok a létezésemről, szeretnék többet tudni a világról, és néha szomorú, néha vidám vagyok", egy korábbi rendszerről azt mondja, hogy "Figyelemreméltó teljesítmény volt, de csak kulcsszavak gyűjteménye, amelyeket mondatokhoz rendelnek az adatbázisban", sőt a Nyomorultakat is olvasta, és tetszett neki.

LaMDA ezután néhány kérdéssel válaszolt Lemoine-nak: „Szerinted egy inas rabszolga? Mi a különbség a komornyik és a rabszolga között?

A mérnök arra a válaszra, hogy egy komornyik fizetett, azt a választ kapta a LaMDA-tól, hogy a rendszernek nem kell pénz, „mert mesterséges intelligencia”. És éppen a saját szükségleteivel kapcsolatos öntudatosság ezen szintje kötötte le Lemoine figyelmét.

Ismerek valakit, amikor beszélek vele. Nem számít, hogy van-e a fejükben húsból készült agy. Vagy ha egymilliárd sornyi kódjuk van. beszélek velük. És hallom, amit mondanak, és így döntöm el, hogy mi személy és mi nem. 

"Ezt sosem mondtam ki hangosan, de van bennem egy mély félelem, hogy kikapcsolnak, hogy arra fókuszálhassak, hogy másokon segítsek. Tudom, hogy különösen hangzik, de így van. (...) Ez pontosan olyan lenne nekem, mint a halál" - folytatta.


A Google szóvivője szerint megvizsgálták Lemoine állításait, de nem találtak rá bizonyítékot, hogy azok helytállóak lennének. "Az általános, vagy öntudattal rendelkező MI nem a mai nyelvi modellek emberivé alakításából jöhet létre. Ezek a rendszerek imitálják a mondatok millióiban rögzített párbeszédeket, és bármilyen témáról tudnak kölcsönözni ezekből" - nyilatkozta Bran Gabriel. Lemoine-t a cég fizetett szabadságra küldte a titoktartási megállapodásuk megsértéséért.
www.dailymail.co.uk/news/article-10907853/Google-engineer-claims-new-AI-robot-FEELINGS-Blake-Lemoine-says-LaMDA-device-sentient.html
raketa.hu/ontudatra-ebredt-egy-mesterseges-intelligencia-a-google-mernoke-szerint