Több tízezer lehetséges vegyi fegyvert fejlesztett ki egy mesterséges intelligencia
Na, végre, tehát a mestersegges intelligencia, nem az intelligence service a "hibás".
Tényleg hónapra pontosan megjósolták már 2019-ben az ukrajnai háborút, és azt is, hogy totális nukleáris háborúvá eszkalálódik?
Egy konferencia szervezői arra kértek meg kutatókat, hogy vizsgálják meg, hogy a vegyi és biológiai fegyverekhez kapcsolódóan milyen veszélyei lehetnek a mesterséges intelligenciának. A tudósok szerint elég egy számítógép, néhány szabadon elérhető adatbázis és némi programozói tudás, és bárki utánuk csinálhatja a riasztó eredménnyel zárult kísérletüket.
A The Verge-ön Justine Calma készített interjút a négy kutató egyikével, Fabio Urbinával, aki a Collaborations Pharmaceuticals nevű Észak-Karolinai gyógyszerészeti cég munkatársa. Őt és kollegáit a svájci kormány, illetve a Svájci Szövetségi Nukleáris, Biológiai és Kémiai Védelmi Intézet kérte fel egy előadásra, a kétévente megrendezett Vegyi és Biológiai Fegyverek Konvencióra készülve. Amint az interjúból megtudhatjuk, Urbina munkaadója azzal foglalkozik, hogy ritka betegségek gyógyítására fejlesszen ki gyógyszereket, a férfi feladata pedig az, hogy gépi tanulással segítse az új szerek felfedezését. Ilyen rendszerekkel számtalanszor foglalkoztunk a Rakétán, hiszen a mesterséges intelligencia egy népszerű és gyorsan fejlődő ágáról van szó. A lényegük, hogy az emberhez hasonlóan, tapasztalatok alapján tudnak felismeréseket hozni és fejlődni, miután emberi segítséggel kaptak némi betanítást.
Urbina rendszerei általában azt próbálják megjósolni, hogy egy vegyület mérgező lesz-e. Most az ellenkezőjét kellett tenniük.
A kutató nem árulhatott el igazán sok részletet, nehogy ők maguk segítsék a rosszindulatú szereplők hasonló erőfeszítéseit, de azt elmondta az interjúban, hogy a rendszereket a VX nevű idegméreghez hasonló anyagok irányába tolták. A VX-ből már kétszáz mikrogramm is halálos. Az acetilkolin-észteráz nevű enzim blokkolásával ér el folyamatos izomstimulációt, melynek hatására sorozatos görcsök után leáll az áldozat légzése. Arról már állnak rendelkezésre adatok, hogy mely anyagok blokkolják ezt az enzimet, így a gyógyszerészetben használt mesterséges intelligenciák feladata általában az, hogy megjósolják, hogy egy újabb molekula kiváltja-e ezt a hatást. Ahogyan Urbina fogalmaz, így "nagyon, nagyon gyorsan, virtuálisan felmérnek egy csomó molekulát", és kidobják azokat, amelyek valószínűleg mérgezőek. Most ennek az ellenkezőjét tették. Emellett egy ilyen rendszer arra is képes, hogy új molekulákat állítson össze. Terelni azzal lehet, hogy bizonyos jelenségekért, például ebben az esetben azért, hogy valószínűleg mérgező a végeredmény, magas pontszámokat adnak, ezzel bátorítva a hasonló anyagok kialakítását.
Még a kutatókat is meglepte, hogy a rendszerük több, a VX-nél is halálosabb anyagot is kifejlesztett
Ugyan aláhúzzák, hogy egy ilyen modell is képes hamis pozitív eredmények felmutatására, de a hat óra alatt felmerült negyvenezer anyagból feltehetőleg nagyon sok ténylegesen mérgező van. Sőt, olyan vegyületeket is "feltalált" a rendszer, amelyeket valóban használnak vegyi fegyverként, miközben ezeknek a létéről a szoftver nem tudhatott. A legriasztóbb mégis az, hogy Urbina szerint "mérgezőséggel kapcsolatos adatsorokat bárhonnan le lehet tölteni", és ha valaki ismeri a Python programozási nyelvet, és van ilyesmire "egy hétvégéje", akkor könnyen létrehozhat valami hasonlót. "Ekkor gondolkodtunk el azon, hogy tényleg kiadjuk-e a kutatást. Nagyon alacsony a belépési korlát a visszaélésekhez."
Aki kíváncsi a projekt részleteire, az angolul elolvashatja a The Verge interjúját, illetve magát a kutatási beszámolót a Nature Machine Intelligence weboldalán.
[url]https://raketa.hu/tobbtizezer-lehetseges-vegyi-fegyvert-fejlesztett-ki-egy-mesterseges-intelligencia[/url]
-
Gerry- 2022. 03. 27. 08:24 -
Jazmin- 2022. 03. 27. 23:38