Ákall um innviðauppbyggingu vegna þróun gervigreindar
Opið bréf hefur verið sent til forseta allsherjarþings Sameinuðu þjóðanna undirritað af 230 stjórnmála-, viðskipta- og akademískum leiðtogum á sviði gervigreindar og framtíðarrannsókna, þar sem Sameinuðu þjóðirnar eru hvattar til að hefja vinnu við að byggja upp innviði svo hægt sé að takast á við þróunina á sviði gervigreindar.
Í fréttatilkynningu koma fram tvær áhugaverðar tilvitnanir:
„Að hafa yfirsýn á þróun gervigreindar gæti verið flóknasta og erfiðasta viðfangsefnið sem mannkynið hefur staðið frammi fyrir,“ segir Jerome Glenn, forstjóri Millennium Project.
Stuart Russell, leiðandi sérfræðingur í gervigrend við háskólann í Berkeley í Kaliforníu, bætir við: „Án þess að leysa það [AGI stjórnun] áður en haldið er áfram að búa til AGI kerfi væri afdrifarík mistök fyrir mannlega siðmenningu. Enginn aðili hefur rétt til að gera þessi mistök.“
Framangreint bréf varar við því að innan áratugar gætu margar útgáfur af óreglubundnu AGI verið gefnar út á netinu. Án innlendra leyfiskerfa og samhæfingu Sameinuðu þjóðanna gæti mannkynið misst stjórn á AGI sem getur endurskrifað sinn eiginn kóða og verður snjallari og snjallari, augnablik fyrir augnablik, sem síðan þróast í gervi ofurgreind sem er langt umfram okkar stjórn eða skilning.
Á fyrirhuguðum sérstökum fundi allsherjarþings Sameinuðu þjóðanna um AGI, verður kallað eftir ályktun Sameinuðu þjóðanna um að stofna nefndir svo hægt verði að semja samkomulag Sameinuðu þjóðanna um gervigreind með tveimur köflum - einn um þrönga gervigreind (ANI) og annan um almenna gervigreind (AGI) – sem síðan gæti leitt til stofnunar sérhæfðrar stofnunar fyrir stjórnun og örugga þróun gervigreindar í öllum sínum myndum.
Bréfið er gefið út af Millennium Project í samvinnu við World Academy of Art and Science og World Futures Study Federation. Framtíðarsetur Íslands er formlegur aðili að bréfinu og samstarfsaðili framangreindra aðila. Bréfið má nálgast á vef seturins www.framtidarsetur.is
Karl Friðriksson, forstjóri Framtíðarseturs Íslands
