Cuando se trata de la clonación o la manipulación de embriones y patógenos peligrosos: siempre ha habido llamados a detener la carrera para hacer que las tecnologías sean más seguras o para regularlas estrictamente. Pero rara vez fueron las moratorias las que cambiaron algo.
En la inseminación artificial, se crea un embrión en una placa de Petri. Esto es rutina en estos días, pero la manipulación genética del embrión no lo es.
Más de 9400 personas ahora tienen la carta abierta firmado, en el que un grupo liderado por el empresario tecnológico Elon Musk y el historiador Yuval Noah Harari pidieron una pausa de seis meses en la capacitación para sistemas de IA. Ella está reaccionando al entusiasmo por el sistema de IA GPT-4, que ha estado causando sensación durante algunas semanas, principalmente por su creación de texto. En los seis meses, los sistemas de inteligencia artificial que son más poderosos que GPT-4 deben verificarse y hacerse más seguros, transparentes y confiables, dice la carta.
La clonación humana, las intervenciones de ingeniería genética en embriones humanos o la investigación sobre patógenos patógenos se citan como ejemplos exitosos de áreas en las que las moratorias han “llevado a detener tecnologías potencialmente catastróficas”. Pero una mirada más cercana a los ejemplos muestra que fue y no es tan fácil.
EE. UU. emitió una moratoria sobre la investigación de ganancia de función
Una moratoria que ha llevado a la formulación de nuevas normas es la relativa al trabajo con patógenos patógenos. Específicamente, se trata de los llamados experimentos de «ganancia de función». Esto significa que los patógenos patógenos adquieren nuevas propiedades en el laboratorio.
En 2011, un público asombrado se enteró de que los equipos de científicos de los Países Bajos y los EE. UU. eran especiales Los virus de la gripe aviar tan cambiados que también podrían transmitirse fácilmente entre mamíferos. Los virus de la influenza mutados pueden haberse vuelto significativamente más peligrosos para los humanos. El anuncio provocó un debate mundial sobre si tales experimentos deberían prohibirse en general o cómo podrían regularse.
En EE. UU., la administración Obama anunció una moratoria para EE. UU. en 2014: hasta nuevo aviso, no se podrán utilizar fondos públicos para tales experimentos. Luego, la moratoria fue levantada por la administración Trump en 2017, al mismo tiempo que se publicó un nuevo y completo conjunto de reglas. Así que se necesitaron seis años para crear esto: tres años de discusión preliminar y luego otros tres años de moratoria. Seis meses, como se solicita en la carta abierta sobre el desarrollo de IA, es muy ambicioso o poco realista para hacer que las tecnologías sean más seguras.
Otros países, incluidos Suiza y Alemania, han regulado la investigación de ganancia de función con leyes y reglamentos de bioseguridad. Contrariamente a lo que se sugirió en la carta abierta, no se detuvo por completo la investigación de «ganancia de función». Experimentos como los de los virus de la influenza todavía son posibles en muchos países hoy en día. Pero en muchos lugares se han formulado condiciones estrictas para ello. Esta es precisamente la razón por la cual la moratoria de «ganancia de función» puede servir como modelo para abordar el desarrollo posterior de los sistemas de IA.
Sin embargo, es cuestionable si la investigación global de «ganancia de función» también se ha vuelto más transparente. El debate sobre el origen del coronavirus mostró que puede haber secretismo en esta área. Hasta el día de hoy, no está del todo claro si y, de ser así, qué experimentos de «ganancia de función» se llevaron a cabo en laboratorios chinos con coronavirus.
Sin moratorias sobre la clonación o la manipulación de embriones
Para las demás áreas mencionadas en la carta abierta, la clonación humana y las intervenciones en el material genético de embriones humanos, todavía no hay moratorias a nivel mundial.
Al igual que con los virus de influenza diseñados, tanto los expertos como los legos se han sorprendido por los hechos. eso ya fue en 1998 Informes sobre embriones humanos clonados, que fueron destruidos en las primeras etapas. En 2018, el físico chino He Jiankui anunció que había tres bebés cambiaron el material genético de esta maneraque ahora son inmunes al VIH.
Aunque aún no ha presentado ningún dato, los expertos suponen que estos niños existen. No se sabe qué daño sufrieron a largo plazo o solo se aclarará en el curso de sus vidas. La tecnología para intervenciones en el genoma de embriones no está madura ni es segura.
Todos los experimentos mencionados desencadenaron intensos debates en todo el mundo sobre los posibles riesgos biológicos y médicos, así como las implicaciones éticas. Y esas discusiones por sí solas tuvieron un impacto. En cada caso, rápidamente prevaleció el consenso de que bajo ninguna circunstancia se debe clonar humanos o manipular el genoma de los embriones. En muchos países, incluidos Suiza y Alemania, hubo prohibiciones legales. China también ha reaccionado y ha establecido normas y prohibiciones sobre las intervenciones en embriones.
Sin embargo, el ostracismo global no impidió el acto sin escrúpulos de He Jiankui. Y también es poco probable que realmente haya una «detención de tecnologías potencialmente catastróficas» en todas las áreas.
Porque en varios países, incluido EE.UU., se realizan manipulaciones de embriones humanos en proyectos de investigación y estos se analizan en probeta. Recientemente, varios científicos en un congreso de terapia génica en Londres dijeron que en un futuro previsible, tal intervención en el genoma de los embriones humanos probablemente se intentará nuevamente en algún país con una legislación débil. Siempre hay médicos sin escrúpulos, ingenieros genéticos y administradores de hospitales en algún lugar que prometen a los padres con sus propios defectos genéticos graves un niño sano por mucho dinero.
Los debates globales son más efectivos que las moratorias
A la vista de la historia, muchos expertos la consideran menos moratoria per se que las intensas discusiones mundiales sobre investigaciones y ciertos experimentos para lo realmente importante. La moratoria puede actuar aquí como un catalizador. Cuando científicos de diferentes disciplinas se unen a celebridades para pedir un descanso, un área de investigación se vuelve más visible para el público y su impacto en la sociedad se discute más intensamente.
Los expertos en inteligencia artificial ahora esperan un efecto catalítico de la carta abierta de Musk, Harari and Co. En cualquier caso, ya ha recibido atención, solo unos días después de su publicación. La abajo firmante Silja Vöneky de la Universidad de Freiburg i. Br. espera que ahora dé un buen impulso a las actividades regulatorias que se necesitan con urgencia. Como también ha sido el caso de la biotecnología.