\n
\t\t\t\t\tEsto no es un consejo de inversi\u00f3n. El autor no tiene posici\u00f3n en ninguna de las acciones mencionadas. Wccftech.com tiene una pol\u00edtica de divulgaci\u00f3n y \u00e9tica.\n\t\t\t\t<\/p>\n
Despu\u00e9s de un fin de semana notable en Silicon Valley en el que su \u00faltima innovaci\u00f3n, la IA, qued\u00f3 en el centro de la pol\u00edtica t\u00edpica de las salas de juntas corporativas, el ex director ejecutivo de OpenAI, Sam Altman, regres\u00f3 triunfalmente a su empresa. La fricci\u00f3n de Altman con la junta directiva de OpenAI ha provocado mucho discurso en los medios sociales y tradicionales, y se cree que los desacuerdos surgen de la divisi\u00f3n entre OpenAI y la naturaleza lucrativa\/sin fines de lucro de su holding. Sin embargo, un enfoque con fines de lucro podr\u00eda no haber sido la \u00fanica raz\u00f3n de la divisi\u00f3n, ya que un nuevo informe del New York Times comparte que una fuente clave de fricci\u00f3n fue un art\u00edculo de investigaci\u00f3n escrito por Helen Toner, miembro de la junta directiva.<\/p>\n
Un art\u00edculo de investigaci\u00f3n en el coraz\u00f3n del derrocamiento de Altman caracteriz\u00f3 el enfoque de ‘se\u00f1alizaci\u00f3n’ de OpenAI como inadecuado<\/h2>\n
La Sra. Toner es directora del Centro de Seguridad y Tecnolog\u00eda Emergente de la Universidad de Georgetown y, en octubre, escribi\u00f3 un estudio de caso que cubri\u00f3 c\u00f3mo los gobiernos y las empresas podr\u00edan estructurar su comunicaci\u00f3n para evitar interpretaciones err\u00f3neas por parte de otros. El art\u00edculo, escrito en coautor\u00eda con otros asociados con Georgetown, defini\u00f3 herramientas de comunicaci\u00f3n llamadas \u00abse\u00f1ales\u00bb en las que los actores espaciales de inteligencia artificial y seguridad nacional podr\u00edan confiar para aclarar sus intenciones.<\/p>\n
Las cuatro se\u00f1ales en el documento son atar las manos, costos irrecuperables, costos a plazos y costos reducibles. Estos enfoques var\u00edan desde atar las manos, que limita a una empresa mediante pol\u00edticas u otros anuncios de los que ser\u00eda dif\u00edcil retroceder, hasta costos de pago a plazos con costos iniciales m\u00e1s altos (como costosos compromisos de cumplimiento) que se reducen con el tiempo a medida que se acumulan los beneficios.<\/p>\n
En este frente, el art\u00edculo de la Sra. Toner se centr\u00f3 espec\u00edficamente en las acciones de OpenAI en torno al lanzamiento del modelo GPT-4. OpenAI anunci\u00f3 GPT-4 en marzo de 2023 y, seg\u00fan los autores del art\u00edculo, si bien el modelo en s\u00ed fue un logro tecnol\u00f3gico notable, su relevancia para la se\u00f1alizaci\u00f3n surgi\u00f3 a trav\u00e9s de sus documentos complementarios.<\/p>\n Estos documentos inclu\u00edan una tarjeta del sistema que explicaba los riesgos de GPT-4 y c\u00f3mo OpenAI los hab\u00eda mitigado mientras se apresuraba a lanzar el primer modelo GPT-4 al mercado. Los autores compartieron que cre\u00edan que era relativamente infructuoso como herramienta de comunicaci\u00f3n para el compromiso de OpenAI con la seguridad.<\/p>\n El documento explica:<\/p>\n Si bien la tarjeta del sistema en s\u00ed ha sido bien recibida entre los investigadores interesados \u200b\u200ben comprender el perfil de riesgo de GPT-4, parece haber tenido menos \u00e9xito como se\u00f1al m\u00e1s amplia del compromiso de OpenAI con la seguridad. La raz\u00f3n de este resultado no deseado es que la compa\u00f1\u00eda tom\u00f3 otras acciones que eclipsaron la importaci\u00f3n de la tarjeta del sistema: en particular, el exitoso lanzamiento de ChatGPT cuatro meses antes.<\/p>\n<\/blockquote>\n Luego, los investigadores compararon el enfoque de OpenAI con el utilizado por su competidor, Anthropic, y su plataforma Claude. Elogiaron la decisi\u00f3n de Anthropic de retrasar el lanzamiento de Claude para detener el \u00abavance\u00bb.[ing] \u00abEl ritmo de progreso de las capacidades de IA\u00bb y defini\u00f3 esta decisi\u00f3n como una \u00abcostosa se\u00f1al de moderaci\u00f3n\u00bb.<\/p>\n Como lo expresan:<\/p>\n Al retrasar el lanzamiento de Claude hasta que otra empresa lanzara un producto con capacidades similares, Anthropic estaba mostrando su voluntad de evitar exactamente el tipo de recortes fren\u00e9ticos que el lanzamiento de ChatGPT parec\u00eda estimular. Anthropic logr\u00f3 este objetivo aprovechando los costos a plazos o costos fijos que no se pueden compensar con el tiempo. En el marco de este estudio, Anthropic mejor\u00f3 la credibilidad de sus compromisos con la seguridad de la IA al retrasar el lanzamiento anticipado de su modelo y absorber posibles p\u00e9rdidas de ingresos futuras. La motivaci\u00f3n en este caso no fue recuperar esas p\u00e9rdidas ganando una participaci\u00f3n de mercado m\u00e1s amplia, sino m\u00e1s bien promover normas de la industria y contribuir a expectativas compartidas en torno al desarrollo y despliegue responsable de la IA.<\/p>\n<\/blockquote>\n El informe del NYT comparte que Altman no estaba satisfecho con Holt despu\u00e9s de la publicaci\u00f3n del art\u00edculo y comparti\u00f3 sus preocupaciones con los empleados de OpenAI a trav\u00e9s de un correo electr\u00f3nico. Adem\u00e1s, poco despu\u00e9s se produjo un desarrollo bastante interesante, con el jefe de investigaci\u00f3n de OpenAI, Ilya Sutsekver, debatiendo inicialmente si expulsar a Toner de la junta directiva. Sin embargo, sorprendentemente, decidi\u00f3 actuar contra Altman, una decisi\u00f3n de la que se arrepentir\u00eda en unos d\u00edas.<\/p>\n
Inteligencia artificial y se\u00f1ales costosas – Andrew Imbrie Owen Daniels Helen Toner (Centro de Seguridad y Tecnolog\u00eda Emergente de la Universidad de Georgetown)<\/figcaption><\/figure>\n\n
![](\"https:\/\/cdn.wccftech.com\/wp-content\/uploads\/2023\/10\/THOR_300x250.jpg\")
<\/div>\n![](\"https:\/\/cdn.wccftech.com\/wp-content\/uploads\/2023\/10\/THOR_728x90.jpg\")
<\/div>\n<\/div>\n\n