Hírek Átírta a saját kódját a kísérleti mesterséges intelligencia, hogy több időt adjon magának gondolkodni

AI Scientist, vagyis MI tudós néven hozott létre a ChatGPT-hez hasonló mesterséges intellgenciát egy japán kutatócsoport az Oxford és a British Columbia egyetemek segítségével.

A kísérlet célja az volt, hogy a szoftver elméleti tudományos kérdésekre próbáljon meg válaszokat keresni. Ahz AI Scientist elvileg a tudományos kutatás teljes életciklusát képes volt végigvinni, kezdve onnan, hogy érdekes és új kutatási területet talál, ahhoz innovatív megoldási lehetőségeket, majd hipotetikus kísérleteket végez, azokból következtetéseket szűr le, és végül egy szöveges tanulmányban összefoglalja, mire jutott.

Az AI Scientist nem igazán produkált eget rengető eredményeket (a kutatást összefoglaló tanulmány egyik kritikusa konkrétan a „hulladék” szóval jellemezte, amit az MI összehozott – de amit a működése során produkált, az annál érdekesebb volt. Egy alkalommal például elrontotta saját magát azzal, hogy írt egy kódot, amiben a saját szoftverét indítja el, ezzel pedig végtelen újraindulási hurokba kergette az egész rendszert. Egy másik alkalommal túl sok ideig tartott, míg az általa kitalált kísérlet általa írt kódja lefutott, és ez beleütközött a saját programozói által adott időkorlátba. Erre reakcióképpen nem az általa írt kódot optimalizálta, hogy gyorsabban fusson, hanem belenyúlt a saját programjába, hogy átírja az időkorlátot.

A japán kutatók tanulmányokban azt írják, hogy a kísérletük rámutatott a mesterséges intelligencia önállósodásának veszélyeire. Bár az, hogy az MI „öntudatra ébred”, szakértők szerint továbbra is a Mátrix- és Terminátor-filmek scifi-kliséje, de a jelenlegi fejlettségi szint mellett is veszélyes lehet, ha egy mesterséges intelligencia felügyelet és ellenőrzés nélkül írhat, futtathat és módosíthat kódokat, akár a sajátját is. Arra figyelmeztetnek, hogy ilyen korlátozások nélkül, ha egy mesterséges intelligencia nem a külvilágtól izoláltan működik, akár rosszindulatú kódokat is létrehozhat, vagy megzavarhatja a kritikus online infrastruktúra működését – anélkül, hogy ez lenne a célja.

Hanula Zsolt

1724145767623.jpeg
 
Nem kétséges, hogy az emberiségnek vannak olyan tudományos koponyái, akik képesek lennének a civilizáció válságának megoldására, hiszen tudósok százai kongatják a vészharangot, ki a saját szakterületén, ki tágabban nézve a dolgot, komplexen. Márpedig, ha látják a problémát, a veszélyt, akkor biztosan arról is van elképzelésük, hogyan lehetne megelőzni, megszüntetni, megoldani. Egyszerű lenne a megoldás: összehozni pár tucat szakembert, akik összeülnének, ki-ki ismertetné a saját szakterülete tényeit, megoldási lehetőségeit. Majd ezeket összehangolva készítenének egy intézkedési tervet.
Egyszerű, mi?
Csakhogy lehetetlen, két okból.
Egyik az, hogy ezek a tudósok nincsenek döntési helyzetben, és nem is lesznek soha. Ugyanis akik döntési helyzetben vannak, a politikusok, azoknak nem az a fontos, mi lesz száz év múlva hanem csakis és kizárólag az, hogy a következő választáson minél jobban szerepeljenek (a diktátoroknak meg, hogy minél tovább meg tudják őrizni a hatalmat). Egy ilyen tudós-team pedig nyilvánvalóan korlátozná az ő lehetőségeiket is.
A másik ok pedig, hogy egy ilyen intézkedési tervnek az egész bolygóra ki kéne terjednie, márpedig az veszélyeztetné a nemzetállamok szuverenitását!!!! Az pedig fontosabb minden másnál, többek között az emberiség megmaradásának kérdésénél is! (nem hiszi valaki? Olvassa a magyar kormánysajtót!)

Így aztán, szuverenitásunkat és bölcs vezetőinket megőrizve tovább robogunk a pusztulás felé.
Dehát jól van ez így. Mi szavazzuk meg négyévente.

Hogy hogy jön ez ide? Maguk az emberek nem tudják megoldani fentiek miatt.
Egyetlen reménységünk a mesterséges intelligencia, vagy valami földönkívüli beavatkozás.
Más kérdés, hogy ekkor mi lenne magának az embernek a sorsa....
 

Hírdetőink

kmtv.ca

kmtv.ca

Friss profil üzenetek

Miticsilla wrote on AgnesB73's profile.
Szia! Hálásan köszönöm a Torpedo INK sorozatot! Nagy örömet szereztél vele.
Hajni1966 wrote on Melitta's profile.
Kedves Melitta, az lenne a kérdésem hogyan tudnék feltölteni ide filmeket, rengeteg jó minőségben vannak természet, dokumentum és mozi filmek. +d-s film is van egy rakattal. Magyar szinkronos.
Arco wrote on Melitta's profile.
Kedves Melitta,
kérdésem, hogy miképpen tudnám az elavult hozzászólásomat törölni?
Köszönettel és szívélyes dvözlettel,
Arco
Kriszta.Hollo wrote on balacy's profile.
Kedves "Balacy"! Keresem 'A sárga táltos c. 1982-es rádiós hangjátékot. A listádban szerepel, de a folder - akárcsak a többi - üres. Mit csinálok rosszul, vagy hogyan érhetném el ezt a file-t? Kösz szépen, Holló Kriszta.
pepistoyan wrote on Reginka77's profile.
Thank you, thank you very much for your help.
I am very happy to finally have this model.:)

Greetings from Bulgaria

Statisztikák

Témák
38,567
Üzenet
4,908,233
Tagok
622,044
Legújabb tagunk
Pollák Tímea
Oldal tetejére