En el verano de 2023, OpenAI creó un equipo de “Superalineación” cuyo objetivo era dirigir y controlar futuros sistemas de IA que podrían ser tan poderosos que podrían conducir a la extinción humana. Menos de un año después, ese equipo está muerto.

OpenAI dijo Bloomberg que la empresa estaba «integrando al grupo más profundamente en sus esfuerzos de investigación para ayudar a la empresa a alcanzar sus objetivos de seguridad». Pero una serie de tweets de Jan Leike, uno de los líderes del equipo que renunció recientemente, reveló tensiones internas entre el equipo de seguridad y la empresa en general.

En una oracion publicado en X El viernes, Leike dijo que el equipo de Superalignment había estado luchando por recursos para realizar la investigación. «Construir máquinas más inteligentes que las humanas es una tarea intrínsecamente peligrosa», escribió Leike. “OpenAI asume una enorme responsabilidad en nombre de toda la humanidad. Pero en los últimos años, la cultura y los procesos de seguridad han pasado a un segundo plano frente a los productos brillantes”. OpenAI no respondió de inmediato a una solicitud de comentarios de Engadget.

La salida de Leike a principios de esta semana se produjo horas después de que el científico jefe de OpenAI, Sutskevar, anunciara que dejaría la empresa. Sutskevar no solo fue uno de los líderes del equipo de Superalignment, sino que también ayudó a cofundar la empresa. La medida de Sutskevar se produjo seis meses después de que estuvo involucrado en la decisión de despedir al director ejecutivo Sam Altman por preocupaciones de que Altman no había sido «consistentemente sincero» con la junta. El despido demasiado breve de Altman provocó una revuelta interna dentro de la empresa y casi 800 empleados firmaron una carta en la que amenazaban con renunciar si Altman no era reintegrado. Cinco días después, Altman regresó como director ejecutivo de OpenAI después de que Sutskevar firmara una carta en la que afirmaba que se arrepentía de sus acciones.

Cuando anunció la creación del equipo Superalignment, OpenAI dijo que dedicaría el 20 por ciento de su potencia informática durante los próximos cuatro años a resolver el problema de controlar los potentes sistemas de IA del futuro. “[Getting] este derecho es fundamental para lograr nuestra misión”, escribió la empresa en ese momento. En X, Leike escribió que el equipo de Superalignment estaba «luchando por la informática y cada vez era más difícil» realizar investigaciones cruciales sobre la seguridad de la IA. «Durante los últimos meses, mi equipo ha estado navegando contra el viento», escribió y añadió que había llegado a «un punto de ruptura» con el liderazgo de OpenAI debido a los desacuerdos sobre las prioridades centrales de la empresa.

En los últimos meses, ha habido más salidas del equipo de Superalignment. En abril, OpenAI supuestamente despidió a dos investigadores, Leopold Aschenbrenner y Pavel Izmailov, por supuestamente filtrar información.

OpenAI dijo Bloomberg que sus futuros esfuerzos de seguridad serán dirigidos por John Schulman, otro cofundador, cuya investigación se centra en grandes modelos de lenguaje. Jakub Pachocki, director que dirigió el desarrollo de GPT-4, uno de los grandes modelos de lenguaje emblemáticos de OpenAI, reemplazaría a Sutskevar como científico jefe.

Superalignment no fue el único equipo de OpenAI centrado en la seguridad de la IA. En octubre, la compañía creó un nuevo equipo de “preparación” para frenar posibles “riesgos catastróficos” de los sistemas de inteligencia artificial, incluidos problemas de ciberseguridad y amenazas químicas, nucleares y biológicas.

Actualización, 17 de mayo de 2024, 3:28 p.m. ET: En respuesta a una solicitud de comentarios sobre las acusaciones de Leike, una persona de relaciones públicas de OpenAI dirigió a Engadget al tweet de Sam Altman diciendo que diría algo en los próximos días.

Este artículo contiene enlaces de afiliados; Si hace clic en dicho enlace y realiza una compra, podemos ganar una comisión.

En una tarde de otoño de 2022, los científicos del Laboratorio de Física Aplicada de la Universidad Johns Hopkins estaban ocupados con las etapas finales de una misión de defensa planetaria. Mientras Andy Rivkin, uno de los líderes del equipo, se preparaba para aparecer en la transmisión en vivo del experimento de la NASA, un colega publicó una foto de un par de asteroides: el Didymos de media milla de ancho y, orbitando a su alrededor, uno más pequeño. llamado Dimorphos, tomado a unos 7 millones de millas de la Tierra.

«Pudimos ver a Didymos y este pequeño punto en el lugar correcto donde esperábamos que estuviera Dimorphos», recordó Rivkin.

Después de la entrevista, Rivkin se unió a una multitud de científicos e invitados para ver el final de la misión en varias pantallas gigantes: como parte de una misión de desviación de asteroides llamada DART, una nave espacial se acercaba a Dimorphos y fotografiaba su superficie rocosa con cada vez más detalle.

Luego, a las 7:14 pm, una nave espacial de aproximadamente 1,300 libras se estrelló de frente contra el asteroide.

A los pocos minutos, los miembros del equipo de la misión en Kenia y Sudáfrica publicaron imágenes de sus telescopios, mostrando una brillante columna de escombros.

En los días siguientes, los investigadores continuaron observando la nube de polvo y descubrieron que se había transformado en una variedad de formas, incluyendo grupos, espirales y dos colas parecidas a las de un cometa. También calcularon que el impacto ralentizó la órbita de Dimorphos en aproximadamente una décima de pulgada por segundo, prueba de concepto de que una nave espacial, también llamada impactador cinético, podría apuntar y desviar un asteroide lejos de la Tierra.

Ron Ballouz, científico planetario del laboratorio, comentó que lo que se ve a menudo en las películas es una “especie de último esfuerzo, lo que nos gusta llamar una etapa final de defensa planetaria”. Pero si se pueden detectar objetos peligrosos con años de antelación, se pueden utilizar otras técnicas como un impactador cinético, añadió.

Si fuera necesaria una desviación, los científicos necesitarían cambiar la velocidad de un objeto peligroso, como un asteroide o un cometa, lo suficiente como para que no termine en el mismo lugar y momento que la Tierra mientras orbita alrededor del Sol. Rivkin dijo que esto se traduce en un cambio de al menos siete minutos en el tiempo de llegada: si se predijera que un objeto del tamaño de Dimorphos colisionaría con la Tierra dentro de 67 años, por ejemplo, la desaceleración que impartió DART sería suficiente para agregar hasta los siete minutos, añadió.

Con menos tiempo de espera, los investigadores podrían utilizar una combinación de múltiples desviaciones, naves espaciales más grandes o aumentos de velocidad, dependiendo del objeto peligroso. «DART fue diseñado para validar una técnica, y situaciones específicas inevitablemente requerirían adaptar las cosas», dijo Rivkin.

Los investigadores utilizan datos de DART y experimentos a menor escala para predecir la cantidad de desviación mediante simulaciones por computadora.

Los científicos también se están centrando en el tipo de asteroide que parece ser Dimorphos: una “montón de escombros”, como lo llaman, porque se cree que los objetos de este tipo están formados por grupos de muchas rocas.

De hecho, los científicos creen que la mayoría de los asteroides del tamaño de Dimorphos y mayores son montones de escombros. A medida que los científicos sigan aprendiendo más sobre los montones de escombros, podrán hacer mejores predicciones sobre la desviación de asteroides o cometas. Y en 2026 llegará una nueva misión a Didymos y Dimorphos para recopilar más datos para afinar los modelos informáticos.

Mientras tanto, los investigadores están tratando de aprender todo lo posible en el caso no deseado de que se descubra que un asteroide o cometa representa una amenaza para la Tierra y sea necesaria una respuesta más rápida.

Los científicos sospecharon por primera vez que muchos asteroides son montones de escombros hace unos 50 años. Sus modelos demostraron que cuando asteroides más grandes chocaban entre sí, las colisiones podían desprender fragmentos que luego se volverían a ensamblar para formar nuevos objetos.

Sin embargo, no fue hasta 2005 que los científicos vieron su primer montón de escombros: el asteroide Itokawa, cuando una nave espacial lo visitó y lo fotografió. Luego, en 2018, vieron otro llamado Ryugu, y ese mismo año, uno más, el asteroide Bennu. La cámara de DART también mostró que Didymos y Dimorphos probablemente sean de la misma variedad.

«Una cosa es hablar de montones de escombros, pero otra ver de cerca lo que parece un montón de rocas arrojadas desde un camión», dijo William Bottke, científico planetario del Instituto de Investigación del Suroeste en Boulder, Colorado.

En un momento muy esperado Informe del Ministerio de Asuntos Exteriores El gobierno estadounidense critica la conducción de la guerra por parte de Israel. Israel tiene “el conocimiento, la experiencia y las herramientas” para limitar las bajas civiles en las operaciones militares. Pero los resultados en la Franja de Gaza, «incluido el elevado número de víctimas civiles», plantean dudas sobre si las fuerzas armadas de Israel también están utilizando estas herramientas, dice el informe.

A pesar de esta conclusión, el informe de 46 páginas, encargado por el presidente Joe Biden, carece de críticas duras al gobierno del Estado aliado. En cambio, los autores reconocen que Israel se encuentra en una situación “extraordinariamente” difícil, también porque los combatientes de la organización terrorista Hamás se esconden detrás de instalaciones civiles.

Las 15 páginas que tratan sobre Israel afirman que no hay pruebas contundentes de ningún crimen de guerra cometido con armas estadounidenses. Sin embargo, es apropiado llegar a la conclusión de que las fuerzas armadas de Israel también han utilizado material de guerra de fabricación estadounidense desde el 7 de octubre de 2023, lo que es «incompatible» con el derecho internacional humanitario. Hay suficientes incidentes denunciados “que suscitan serias preocupaciones”.

Sin embargo, funcionarios israelíes han asegurado de manera “creíble y confiable” que las fuerzas armadas utilizarían armas estadounidenses de acuerdo con el derecho internacional. Por lo tanto, no es apropiado detener las entregas de material de guerra, afirma el informe. Los autores (anónimos) tampoco encontraron indicios de que el gobierno del primer ministro Benjamín Netanyahu estuviera obstaculizando deliberadamente el suministro de bienes humanitarios de Estados Unidos a la población civil. Sin embargo, especialmente en los primeros meses después del ataque de Hamás, Israel «no cooperó plenamente» con el gobierno estadounidense, que quería proporcionar ayuda humanitaria a la población civil de Gaza.

Informe entregado con dos días de retraso

Biden encargó el informe en febrero tras las críticas en el Congreso por el elevado número de víctimas civiles en la Franja de Gaza. Posteriormente, el presidente estadounidense obligó al gobierno israelí a proporcionar garantías por escrito de que las fuerzas armadas israelíes sólo utilizarían armas estadounidenses de conformidad con el derecho internacional.

El informe al Congreso se entregó con dos días de retraso. Después de que Biden se mostrara una vez más muy crítico con la ofensiva planeada contra Rafah en una entrevista con CNN el miércoles y detuviera el lanzamiento de bombas estadounidenses, el informe fue esperado con impaciencia. En Washington se dijo que el Departamento de Estado se había peleado por cada redacción que tuviera que ver con Israel. El informe también cubre las exportaciones de armas a países como Ucrania y Kenia.

Muchos senadores reaccionaron críticamente al informe del viernes. El republicano Jim Risch acusó al gobierno de Biden de apuñalar a Israel por la espalda con la ayuda de una “evaluación políticamente dañina”. El demócrata Chris Van Hollen, por su parte, acusó al Departamento de Estado de evitar una conclusión clara. Dados los recursos disponibles para el gobierno federal, hubiera sido apropiado que los autores del informe hubieran investigado más a fondo.

Netflix hizo sus primeros comentarios públicos sobre la investigación en línea que rodea a su exitoso drama británico sobre acosadores Baby Reindeer, y le dijo a un comité del Parlamento del Reino Unido que se había esforzado por disfrazar las identidades de la vida real que eran la base de sus personajes.

Benjamin King, director senior de Políticas Públicas de Netflix en el Reino Unido e Irlanda, abordó el escrutinio en torno a la serie en una audiencia el miércoles ante el Comité de Cultura, Medios y Deporte del Parlamento. Si bien la audiencia fue generalmente sobre políticas en torno al cine británico y la «televisión de alta gama» y también incluyó a ejecutivos de Prime Video UK, NBCUniversal International y Paramount, un miembro del comité de Paraliament preguntó a King sobre Baby Reindeer en particular, señalando que los fans aparentemente habían encontró la identidad real de la mujer que era la base del acosador del programa.

«Baby Reindeer es una historia extraordinaria, y obviamente es una historia real del horrible abuso que sufrió el escritor y protagonista, Richard Gadd, a manos de un acosador convicto», comenzó King. «Tomamos todas las precauciones razonables para disfrazar las identidades reales de las personas involucradas en esa historia durante la realización del programa y al mismo tiempo logramos un equilibrio entre veracidad y autenticidad de la historia de Richard, porque no queríamos anonimizar eso o hacerlo genérico hasta el punto en que ya no sea su historia, porque eso socavaría la intención detrás del programa».

Como señaló King, el creador y protagonista de Baby Reindeer, el comediante Richard Gadd, cuenta la historia real de su extensa situación de acoso en la serie británica. Gadd ha hablado anteriormente sobre hasta dónde llegó para evitar que los espectadores pudieran encontrar a la mujer en la que se basa el personaje acosador, Martha (interpretada por Jessica Gunning), pero a medida que Baby Reindeer aumentó en popularidad, los detectives en línea aparentemente la localicé.

Después de que los fanáticos afirmaran haber encontrado a otra persona de la vida real retratada en la serie, el ex colaborador de Gadd, Sean Foley, Gadd emitió un comunicado diciendo, “Por favor, no especules sobre quiénes podrían ser las personas de la vida real. Ese no es el objetivo de nuestro programa”. Foley dijo en X/Twitter que la policía había estado investigando «todas las publicaciones difamatorias, abusivas y amenazantes contra mí» a raíz de que los fanáticos lo acusaran de ser retratado en la serie.

Durante la audiencia, King defendió aún más el enfoque de Baby Reindeer y Netflix sobre su tema de la vida real, y agregó que trabajaron con la línea de ayuda para acosadores del Reino Unido, Suzy Lamplugh Trust, en la promoción y lanzamiento de la serie.

«Richard Gadd fue muy claro en que esa no era la intención del programa, que debería inspirar a la gente a intentar localizar a los individuos de la vida real», añadió King. «En última instancia, es obviamente difícil controlar lo que hacen los espectadores, particularmente en un mundo donde todo se amplifica por las redes sociales. Pero fundamentalmente, se trata de la historia de Richard y de contar la historia de Richard de una manera veraz. Personalmente, no me sentiría cómodo con una mundo en el que decidimos que era mejor silenciar a Richard y no permitirle contar su historia».

King continuó diciendo que están «siguiendo la situación muy de cerca». Cuando se le preguntó si la producción había contactado a la Martha de la vida real durante la realización de la serie, King dijo que no sería «apropiado» que él profundizara en detalles y que no «quería dar más combustible». a algunas de las teorías que circulan en Internet.»

Martha aparentemente se adelanta

A pesar del intento de secreto por parte de la producción, una mujer que ha sido atacada por los fanáticos y afirma ser la mujer en la que se basa Martha de Baby Reindeer, Fiona Harvey, se ha presentado ella misma. Piers Morgan anunció hoy que está realizando una entrevista con Harvey, que saldrá al aire el jueves, y que ella quiere «dejar las cosas claras».

*EXCLUSIVO MUNDIAL*
La Martha de la vida real de Baby Reindeer abre la tapa y me da su primera entrevista televisiva sobre el exitoso programa de Netflix.
Fiona Harvey quiere que ella diga y «deje las cosas claras».
¿Es ella una psicópata acosadora?
Descúbrelo mañana en@PiersUncensored⁩ pic.twitter.com/MxaE5SEiTa

– Piers Morgan (@piersmorgan) 8 de mayo de 2024

Harvey dijo anteriormente en una entrevista con Daily Record UK que está considerando emprender acciones legales debido a la interrupción en su vida que ha provocado la serie.

Baby Reindeer debutó en Netflix el 11 de abril y desde entonces se ha convertido en un gran éxito para la plataforma de streaming, apareciendo regularmente en la cima de su lista de los 10 más vistos. También ha recibido elogios de los críticos, y la propia reseña del 9/10 de IGN dice que «no se anda con rodeos y eleva el listón de los originales de Netflix».

Alex Stedman es editor senior de noticias en IGN y supervisa los informes de entretenimiento. Cuando no está escribiendo o editando, puedes encontrarla leyendo novelas de fantasía o jugando a Dungeons & Dragons.

El 29 de abril, los senadores Jon Ossoff (D-GA) y Marsha Blackburn (R-SC) propusieron un proyecto de ley bipartidista para proteger a los niños de la explotación sexual en línea.

El presidente Biden promulgó oficialmente la Ley REPORT el martes. Esta es la primera vez que los sitios web y las plataformas de redes sociales están legalmente obligados a denunciar delitos relacionados con el tráfico, la captación y la seducción de niños a nivel federal al CyberTipline del Centro Nacional para Niños Desaparecidos y Explotados (NCMEC).

Según la nueva ley, las empresas que intencionalmente omitan informar material de abuso sexual infantil en su sitio sufrirán una multa considerable. Para plataformas con más de 100 millones de usuarios, una primera infracción conllevaría una multa de 850.000 dólares, por ejemplo. Para garantizar que las autoridades investiguen cuidadosa y exhaustivamente las amenazas urgentes de explotación sexual infantil, la ley exige que las pruebas se conserven durante un período más largo, que puede ser de hasta un año, en lugar de solo 90 días.

El NCMEC enfrenta desafíos al investigar los millones de informes de abuso sexual infantil que recibe cada año debido a la falta de personal y al uso de tecnología obsoleta. Aunque la nueva ley no puede resolver el problema por completo, se espera que haga más eficiente la evaluación de los informes al permitir cosas como el almacenamiento legal de datos en servicios comerciales de computación en la nube.

«Los niños miran cada vez más las pantallas, y la realidad es que esto deja a más niños inocentes en riesgo de explotación en línea», dijo el senador Blackburn en un comunicado. “Me siento honrado de defender esta solución bipartidista junto con el Senador Ossoff y la Representante Laurel Lee para proteger a los niños vulnerables y responsabilizar a los perpetradores de estos crímenes atroces. También aprecio la colaboración inquebrantable del Centro Nacional para Niños Desaparecidos y Explotados para lograr que esto llegue a la meta”.

El Reino Unido está pidiendo a las empresas de búsqueda y redes sociales que “dominen los algoritmos tóxicos” que recomiendan contenido dañino para los niños, o se arriesgan a recibir multas por miles de millones. El miércolesel regulador de medios del Reino Unido, Ofcom, describió más de 40 requisitos propuestos para los gigantes tecnológicos en virtud de su Reglas de la Ley de seguridad en líneaincluidos controles de edad sólidos y moderación de contenido que tienen como objetivo proteger mejor a los menores en línea de conformidad con las próximas leyes de seguridad digital.

«Nuestros códigos propuestos asignan firmemente la responsabilidad de mantener a los niños más seguros en las empresas de tecnología», dijo la directora ejecutiva de Ofcom, Melanie Dawes. «Tendrán que dominar algoritmos agresivos que envían contenido dañino a los niños en sus feeds personalizados e introducir controles de edad para que los niños obtengan una experiencia adecuada para su edad».

Específicamente, Ofcom quiere evitar que los niños encuentren contenido relacionado con trastornos alimentarios, autolesiones, suicidio, pornografía y cualquier material considerado violento, odioso o abusivo. Las plataformas también deben proteger a los niños del acoso en línea y de promociones para desafíos peligrosos en línea, y permitirles dejar comentarios negativos sobre el contenido que no quieren ver para que puedan seleccionar mejor sus feeds.

En pocas palabras: las plataformas pronto tendrán que bloquear el contenido considerado dañino en el Reino Unido, incluso si eso significa «impedir que los niños accedan a todo el sitio o la aplicación», dice Ofcom.

La Ley de Seguridad en Línea permite a Ofcom imponer multas de hasta £18 millones (alrededor de $22,4 millones) o el 10 por ciento de los ingresos globales de una empresa, la cifra que sea mayor. Eso significa que grandes empresas como Meta, Google y TikTok corren el riesgo de pagar sumas sustanciales. Ofcom advierte que las empresas que no cumplan pueden «esperar enfrentarse a medidas coercitivas».

Las empresas tienen hasta el 17 de julio para responder a las propuestas de Ofcom antes de que los códigos se presenten al parlamento. El regulador lanzará una versión final en la primavera de 2025, después de lo cual las plataformas tendrán tres meses para cumplir.