\n<\/p>\n
Dado que las preocupaciones en torno a la IA generativa est\u00e1n siempre presentes, Google ha anunciado una expansi\u00f3n de su Programa de Recompensas por Vulnerabilidad (VRP) centrado en ataques espec\u00edficos de IA y oportunidades de malicia. Como tal, la compa\u00f1\u00eda public\u00f3 pautas actualizadas que detallan qu\u00e9 descubrimientos califican para recompensas y cu\u00e1les quedan fuera de alcance. Por ejemplo, descubrir una extracci\u00f3n de datos de entrenamiento que filtre informaci\u00f3n privada y sensible est\u00e1 dentro de su alcance, pero si solo muestra datos p\u00fablicos y no sensibles, entonces no calificar\u00eda para una recompensa. El a\u00f1o pasado, Google dio a los investigadores de seguridad 12 millones de d\u00f3lares para el descubrimiento de errores.<\/p>\n
Google explic\u00f3 que la IA presenta problemas de seguridad diferentes a los de otras tecnolog\u00edas, como manipulaci\u00f3n de modelos y sesgos injustos, lo que requiere nuevas orientaciones para reflejar esto. \u00abCreemos que ampliar el VRP incentivar\u00e1 la investigaci\u00f3n sobre la seguridad de la IA y sacar\u00e1 a la luz problemas potenciales que, en \u00faltima instancia, har\u00e1n que la IA sea m\u00e1s segura para todos\u00bb, dijo la compa\u00f1\u00eda en un comunicado. \u00abTambi\u00e9n estamos ampliando nuestro trabajo de seguridad de c\u00f3digo abierto para que la informaci\u00f3n sobre la seguridad de la cadena de suministro de IA sea universalmente detectable y verificable\u00bb.<\/p>\n
Las empresas de IA, incluida Google, se reunieron en la Casa Blanca a principios de este a\u00f1o, comprometi\u00e9ndose a un mayor descubrimiento y conciencia de las vulnerabilidades de la IA. La expansi\u00f3n del VRP de la compa\u00f1\u00eda tambi\u00e9n se produce antes de una orden ejecutiva \u00abamplia\u00bb del presidente Biden, supuestamente programada para el lunes 30 de octubre, que crear\u00eda evaluaciones y requisitos estrictos para los modelos de IA antes de cualquier uso por parte de agencias gubernamentales.<\/p>\n<\/div>\n