Thousands of AI authors on the future of AI

En la encuesta más grande de su tipo, 2.778 investigadores que habían publicado en foros de inteligencia artificial (IA) de primer nivel dieron predicciones sobre el ritmo del progreso de la IA y la naturaleza y los impactos de los sistemas avanzados de IA. Los pronósticos agregados dan al menos un 50% de probabilidad. de sistemas de inteligencia artificial que logren varios hitos para 2028, incluida la construcción autónoma de un sitio de procesamiento de pagos desde cero, la creación de una canción indistinguible de una nueva canción de un músico popular y la descarga y el ajuste autónomo de un modelo de lenguaje de gran tamaño. Si la ciencia continúa sin interrupciones, la probabilidad de que las máquinas sin ayuda superen a los humanos en todas las tareas posibles se estimó en un 10% para 2027 y un 50% para 2047. Esta última estimación es 13 años anterior a la alcanzada en una encuesta similar que realizamos sólo un año antes. [Grace y otros, 2022]. Sin embargo, se pronosticó que la probabilidad de que todas las ocupaciones humanas se volvieran completamente automatizables alcanzaría el 10% en 2037 y el 50% en 2116 (en comparación con 2164 en la encuesta de 2022).
La mayoría de los encuestados expresaron una incertidumbre sustancial sobre el valor a largo plazo del progreso de la IA: mientras que el 68,3% pensó que los buenos resultados de la IA sobrehumana son más probables que los malos, de estos optimistas netos el 48% dio al menos un 5% de posibilidades de resultados extremadamente malos, como los humanos. extinción, y el 59% de los pesimistas netos dieron el 5% o más a resultados extremadamente buenos. Entre el 38% y el 51% de los encuestados dieron al menos un 10% de posibilidades de que la IA avanzada condujera a resultados tan malos como la extinción humana. Más de la mitad sugirió que se justifica una preocupación «sustancial» o «extrema» sobre seis escenarios diferentes relacionados con la IA, incluida la desinformación, el control autoritario y la desigualdad. Hubo desacuerdo sobre si un progreso más rápido o más lento en la IA sería mejor para el futuro de la humanidad. Sin embargo, hubo un amplio acuerdo en que se debería dar más prioridad a la investigación destinada a minimizar los riesgos potenciales de los sistemas de IA.