El martes, un grupo de ex empleados de OpenAI y Google DeepMind publicó una carta abierta pidiendo a las empresas de IA que se comprometan con principios que permitan a los empleados plantear preocupaciones sobre los riesgos de la IA sin temor a represalias. La carta, titulada «Un derecho a advertir sobre la inteligencia artificial avanzada», ha sido firmada hasta ahora por 13 personas, incluidas algunas que optaron por permanecer en el anonimato debido a preocupaciones sobre posibles repercusiones.

Los firmantes argumentan que si bien la IA tiene el potencial de brindar beneficios a la humanidad, también plantea riesgos graves que incluyen «un mayor afianzamiento de las desigualdades existentes, la manipulación y la desinformación, y la pérdida de control de los sistemas autónomos de IA, lo que podría resultar en la extinción humana».

También afirman que las empresas de IA poseen sustancial información no pública sobre las capacidades, limitaciones y niveles de riesgo de sus sistemas, pero actualmente sólo tienen obligaciones débiles de compartir esta información con los gobiernos y ninguna con la sociedad civil.

Los firmantes no anónimos de la carta incluyen a los ex empleados de OpenAI Jacob Hilton, Daniel Kokotajlo, William Saunders, Carroll Wainwright y Daniel Ziegler, así como a los ex empleados de Google DeepMind, Ramana Kumar y Neel Nanda.

El grupo pide a las empresas de IA que se comprometan con cuatro principios clave: no hacer cumplir acuerdos que prohíban las críticas a la empresa por inquietudes relacionadas con riesgos, facilitar un proceso anónimo para que los empleados planteen inquietudes, apoyar una cultura de crítica abierta y no tomar represalias contra los empleados. que comparten públicamente información confidencial relacionada con riesgos después de que otros procesos hayan fallado.

En mayo, un artículo de Vox escrito por Kelsey Piper expresó su preocupación por el uso por parte de OpenAI de acuerdos restrictivos de confidencialidad para los empleados salientes, que amenazaban con revocar el capital adquirido si los ex empleados criticaban a la empresa. El director ejecutivo de OpenAI, Sam Altman, respondió a las acusaciones y afirmó que la empresa nunca había recuperado el capital adquirido y no lo haría si los empleados se negaban a firmar el acuerdo de separación o la cláusula de no menosprecio.

Pero los críticos seguían insatisfechos, y OpenAI pronto dio un giro público sobre el tema, diciendo que eliminaría la cláusula de no menosprecio y las disposiciones de recuperación de capital de sus acuerdos de separación, reconociendo que dichos términos eran inapropiados y contrarios a los valores declarados de la compañía. transparencia y rendición de cuentas. Es probable que ese movimiento de OpenAI sea lo que hizo posible la carta abierta actual.

La Dra. Margaret Mitchell, investigadora de ética de la IA en Hugging Face que fue despedida de Google en 2021 después de expresar su preocupación por la diversidad y la censura dentro de la empresa, habló con Ars Technica sobre los desafíos que enfrentan los denunciantes en la industria tecnológica. «En teoría, no se pueden tomar represalias legales contra uno por denunciar irregularidades. En la práctica, parece que sí se pueden», afirmó Mitchell. «Las leyes apoyan los objetivos de las grandes empresas a expensas de los trabajadores. No favorecen a los trabajadores.»

Mitchell destacó el costo psicológico de buscar justicia contra una gran corporación, diciendo: «Básicamente, tienes que renunciar a tu carrera y a tu salud psicológica para buscar justicia contra una organización que, en virtud de ser una empresa, no tiene sentimientos y sí tiene los recursos para destruirte.» Y añadió: «Recuerde que le corresponde a usted, la persona despedida, presentar el caso de que recibió represalias contra usted (una sola persona, sin fuente de ingresos después de ser despedido) contra una corporación de un billón de dólares con un ejército de abogados. que se especializan en dañar a los trabajadores exactamente de esta manera».

La carta abierta ha obtenido el apoyo de distinguidos expertos en IA, incluidos Yoshua Bengio, Geoffrey Hinton (quien ha advertido sobre la IA en el pasado) y Stuart J. Russell. Vale la pena señalar que otros expertos como Yann LeCun de Meta han discrepado con las afirmaciones de que la IA representa un riesgo existencial para la humanidad, y otros expertos sienten que el tema de conversación sobre la «adquisición de la IA» es una distracción de los daños actuales de la IA, como los prejuicios y las alucinaciones peligrosas.

Incluso con el desacuerdo sobre qué daños concretos pueden derivarse de la IA, Mitchell cree que las preocupaciones planteadas en la carta subrayan la necesidad urgente de una mayor transparencia, supervisión y protección para los empleados que hablan abiertamente sobre riesgos potenciales: «Aunque aprecio y estoy de acuerdo con esto carta», dice, «es necesario que haya cambios significativos en las leyes que apoyan desproporcionadamente prácticas injustas por parte de grandes corporaciones a expensas de que los trabajadores hagan lo correcto».

Antiguos miembros del personal del desarrollador de Burnout, Criterion, han revelado sus planes desechados para una secuela del proyecto de disparos en primera persona del estudio, Black.

Cuando Black se lanzó en 2006 para PlayStation 2 y la Xbox original, prometía ser la versión revolucionaria de Criterion del género FPS, al igual que Burnout había ganado legiones de fanáticos para la versión de carreras del estudio.

El juego recibió críticas en gran medida positivas, aunque los primeros planes para una secuela nunca se materializaron. Algunos de los que trabajaron en el juego, incluido su homónimo Stuart Black, se fueron más tarde para hacer Bodycount, un sucesor espiritual desarrollado por Codemasters.

Ahora, sin embargo, en una larga serie de entrevistas sobre el Black original y su desarrollo, varios antiguos desarrolladores han hablado con thatHITBOX de su trabajo inicial en una secuela de Black en Criterion.

Quizás lo más notable fueron los planes para incluir un «juego en red» para el modo cooperativo, con un sistema de recuperación si uno de los jugadores se derribaba. La falta de multijugador había sido una crítica al original.

«Creo que el subtítulo iba a ser ‘Rendition'», dijo Ben Minto, diseñador técnico de sonido del Black original. «La idea se centró en que las tropas estadounidenses viajaran al extranjero, secuestraran personas y las trajeran de regreso a través de las fronteras… Sin embargo, no estoy seguro de que se haya trazado una historia completa».

«Tuvimos una increíble [first person] Mecánica de cobertura en la que podías posicionarte contra cosas y disparar a ciegas”, agregó el diseñador de niveles Black Michael Othen. “Se sentía intuitivo y orgánico. Hubo un comportamiento genial de la IA enemiga con la forma en que se movían por el entorno. Los verías saltando sobre los capós de los autos y deslizándose para cubrirse. Se veía increíble como jugador, porque tenías ese flujo dinámico de movimiento. Estos fueron solo ingredientes muy tempranos en la etapa de I + D».

«Querían seguir siendo influenciados por las películas. Contrataron a un constructor de modelos para construir miniaturas de lugares realistas», dijo el diseñador de juegos senior negro, Richard Bunn. «Uno de los aspectos de la previsualización que se destacó fue que querían tener escenarios más realistas. Más de este estilo de juego asesino, donde irías a lugares reales que estaban un poco más vivos, con otras personas, y eliminarías un objetivo Esencialmente un poco como Hitman «.

Se filmó una secuencia de acción en vivo ambientada en un café, con la cámara unida al pecho de un actor mientras se sostenía un arma para simular la vista de un tirador en primera persona. Una idea era permitir que los jugadores movieran su arma independientemente de su punto de vista mientras permanecían en primera persona. Y se construyó al menos un nivel: un silo de misiles en Corea, donde el jugador no logra detener el disparo de un cohete.

“Estás en una gran área abierta, con grandes bloques de concreto como objetos de cobertura. Están entrando enemigos”, recordó. «Mientras luchas, otras rejillas de ventilación comienzan a abrirse y toda el área se llena de humo y gas del lanzamiento del cohete, lo que provoca la pérdida de visibilidad. Se acerca cada vez más al lanzamiento, y todo el entorno lo refleja gradualmente. Eventualmente, se abre. y este gran gran misil se lanza por el medio. Se trataba de la evolución del entorno de juego».

¿Por qué el mundo nunca vio una secuela? Criterion estaba ocupado con Burnout Paradise, mientras que el mercado de los juegos de disparos parecía abarrotado.

«Hubo muchos otros juegos de disparos, incluso dentro de EA», concluyó Othen. «Bad Company estaba experimentando con niveles destructibles. Puede haber sido difícil para ellos ver dónde encajaba un ‘Black 2’ con otros juegos en su calendario de publicación. Me decepcionó que no llegara a ver la luz del día. »

Vale la pena leer el artículo completo sobre ese HITBOX con una inmersión profunda en el desarrollo del Black original.