Un senador de Virginia advirtió esta semana a los principales directores ejecutivos de tecnología sobre la «necesidad urgente» de priorizar la seguridad al desarrollar tecnologías de IA.
«Con el uso cada vez mayor de la IA en grandes sectores de nuestra economía y la posibilidad de que los grandes modelos de lenguaje se integren constantemente en una variedad de sistemas existentes, desde los sectores de atención médica hasta finanzas, veo una necesidad urgente de subrayar la importancia de poner la seguridad a la vanguardia de su trabajo», escribió el senador Mark Warner(Se abre en una nueva ventana) a los directores generales de 10 empresas.
Sin embargo, los compromisos de la industria pueden no ser suficientes, ya que Warner, presidente del Comité Selecto de Inteligencia del Senado, dijo que «está claro que se necesita cierto nivel de regulación en este campo».
Warner envió la carta a los directores ejecutivos de OpenAI, Scale AI, Meta, Google, Apple, Stability AI, Midjourney, Anthropic, Percipient.ai y Microsoft.
Los instó a «priorizar la seguridad, combatir el sesgo y desplegar responsablemente nuevas tecnologías». Señaló a los investigadores que han «demostrado repetidamente una serie de debilidades preocupantes y explotables en los productos destacados, incluidas las capacidades para generar información errónea aparentemente creíble, desarrollar malware y elaborar técnicas sofisticadas de phishing».
Warner solicitó detalles sobre las estrategias de seguridad de las empresas, los límites de acceso de terceros y las medidas adoptadas para garantizar la entrada y salida de datos «segura y precisa».
Recomendado por Nuestros Editores
En correos electrónicos a PCMag, Scale AI y Anthropic confirmaron la recepción de la carta, pero declinaron hacer más comentarios. Nos comunicamos con las otras ocho compañías y actualizaremos esta historia si recibimos una respuesta.
Nota de los editores: este artículo se actualizó con la respuesta de Scale AI y Anthropic.
¡Obtenga nuestras mejores historias!
Matricularse en ¿Qué hay de nuevo ahora? para recibir nuestras mejores historias en su bandeja de entrada todas las mañanas.
Este boletín puede contener publicidad, ofertas o enlaces de afiliados. Suscribirse a un boletín informativo indica su consentimiento a nuestros Términos de uso y Política de privacidad. Puede darse de baja de los boletines en cualquier momento.