\n<\/p>\n
Este marzo, casi<\/span> 35\u00a0000 investigadores, tecn\u00f3logos, empresarios y ciudadanos preocupados por la IA firmaron una carta abierta del Future of Life Institute sin fines de lucro que ped\u00eda una \u00abpausa\u00bb en el desarrollo de la IA, debido a los riesgos para la humanidad revelados en las capacidades de programas como ChatGPT.<\/p>\n \u201cLos sistemas de IA contempor\u00e1neos ahora se est\u00e1n volviendo competitivos con los humanos en tareas generales, y debemos preguntarnos… \u00bfDeber\u00edamos desarrollar mentes no humanas que eventualmente podr\u00edan superarnos en n\u00famero, ser m\u00e1s inteligentes, obsoletas y reemplazarnos?\u201d<\/em><\/p>\n Todav\u00eda se puede demostrar que estoy equivocado, pero casi seis meses despu\u00e9s y con el desarrollo de la IA m\u00e1s r\u00e1pido que nunca, la civilizaci\u00f3n no se ha derrumbado. Diablos, Bing Chat, el \u201crevolucionario\u201d or\u00e1culo de b\u00fasqueda infundido con ChatGPT de Microsoft, ni siquiera ha desplazado a Google como l\u00edder en b\u00fasqueda. Entonces, \u00bfqu\u00e9 debemos hacer con la carta y advertencias de ciencia ficci\u00f3n similares respaldadas por nombres dignos sobre los riesgos que plantea la IA?<\/p>\n Dos estudiantes emprendedoras del MIT, Isabella Struckman y Sofie Kupiec, se acercaron a los primeros cien signatarios de la carta que ped\u00eda una pausa en el desarrollo de la IA para aprender m\u00e1s sobre sus motivaciones y preocupaciones. La redacci\u00f3n del d\u00fao sobre sus hallazgos revela una amplia gama de perspectivas entre quienes pusieron su nombre en el documento. A pesar de la recepci\u00f3n p\u00fablica de la carta, relativamente pocos estaban realmente preocupados de que la IA representara una amenaza inminente para la humanidad misma.<\/p>\n Muchas de las personas con las que hablaron Struckman y Kupiec no cre\u00edan que se producir\u00eda una pausa de seis meses o que tendr\u00eda mucho efecto. La mayor\u00eda de los que firmaron no imaginaron el \u201cescenario apocal\u00edptico\u201d que un encuestado an\u00f3nimo reconoci\u00f3 que evocaban algunas partes de la carta.<\/p>\n Al parecer, un n\u00famero significativo de los que firmaron estaban preocupados principalmente por el ritmo de la competencia entre Google, OpenAI, Microsoft y otros, ya que la exageraci\u00f3n sobre el potencial de las herramientas de IA como ChatGPT alcanz\u00f3 alturas vertiginosas. Google fue el desarrollador original de varios algoritmos clave para la creaci\u00f3n del chatbot, pero se movi\u00f3 con relativa lentitud hasta que ChatGPT-man\u00eda se afianz\u00f3. Para estas personas, la perspectiva de que las empresas se apresuraran a lanzar algoritmos experimentales sin explorar los riesgos era motivo de preocupaci\u00f3n, no porque pudieran acabar con la humanidad, sino porque podr\u00edan difundir desinformaci\u00f3n, producir consejos da\u00f1inos o sesgados, o aumentar la influencia y la riqueza de la gente. compa\u00f1\u00edas tecnol\u00f3gicas ya muy poderosas.<\/p>\n Algunos signatarios tambi\u00e9n se preocuparon por la posibilidad m\u00e1s lejana de que la IA desplace a los trabajadores a una velocidad nunca antes vista. Y algunos tambi\u00e9n sintieron que la declaraci\u00f3n ayudar\u00eda a llamar la atenci\u00f3n del p\u00fablico sobre avances significativos y sorprendentes en el rendimiento de los modelos de IA, tal vez empujando a los reguladores a tomar alg\u00fan tipo de acci\u00f3n para abordar los riesgos a corto plazo que plantean los avances en IA.<\/p>\n En mayo, habl\u00e9 con algunos de los que firmaron la carta y estaba claro que no todos estaban completamente de acuerdo con todo lo que dec\u00eda. Firmaron con la sensaci\u00f3n de que el impulso que se generaba detr\u00e1s de la carta llamar\u00eda la atenci\u00f3n sobre los diversos riesgos que les preocupaban y, por lo tanto, val\u00eda la pena respaldarlo.<\/p>\n<\/div>\n