\n<\/p>\n
Microsoft ha reafirmado su prohibici\u00f3n a los departamentos de polic\u00eda de EE. UU. de utilizar IA generativa para el reconocimiento facial a trav\u00e9s del servicio Azure OpenAI, el contenedor totalmente administrado y centrado en la empresa de la compa\u00f1\u00eda en torno a la tecnolog\u00eda OpenAI.<\/p>\n
El texto agregado el mi\u00e9rcoles a los t\u00e9rminos de servicio del servicio Azure OpenAI proh\u00edbe m\u00e1s claramente que las integraciones con el servicio Azure OpenAI sean utilizadas \u00abpor o para\u00bb los departamentos de polic\u00eda para el reconocimiento facial en los EE. UU., incluidas las integraciones con el an\u00e1lisis de im\u00e1genes actual (y posiblemente futuro) de OpenAI. modelos.<\/p>\n
Un nuevo punto separado cubre \u00abcualquier aplicaci\u00f3n de la ley a nivel mundial\u00bb y proh\u00edbe expl\u00edcitamente el uso de \u00abtecnolog\u00eda de reconocimiento facial en tiempo real\u00bb en c\u00e1maras m\u00f3viles, como c\u00e1maras corporales y c\u00e1maras para tablero, para intentar identificar a una persona en situaciones \u00abincontroladas, en el medio\u00bb. -Ambientes \u201csalvajes\u201d.<\/p>\n
Los cambios en la pol\u00edtica se producen una semana despu\u00e9s de que Axon, un fabricante de productos tecnol\u00f3gicos y de armas para militares y fuerzas del orden, anunciara un nuevo producto que aprovecha el modelo de texto generativo GPT-4 de OpenAI para resumir el audio de las c\u00e1maras corporales. Los cr\u00edticos se apresuraron a se\u00f1alar los peligros potenciales, como las alucinaciones (incluso los mejores modelos de IA generativa actuales inventan hechos) y los prejuicios raciales introducidos a partir de los datos del entrenamiento (lo cual es especialmente preocupante dado que las personas de color tienen muchas m\u00e1s probabilidades de ser detenidas por la polic\u00eda). que sus pares blancos).<\/p>\n
No est\u00e1 claro si Axon estaba usando GPT-4 a trav\u00e9s del servicio Azure OpenAI y, de ser as\u00ed, si la pol\u00edtica actualizada fue en respuesta al lanzamiento del producto de Axon. OpenAI hab\u00eda restringido previamente el uso de sus modelos para reconocimiento facial a trav\u00e9s de sus API. Nos comunicamos con Axon, Microsoft y OpenAI y actualizaremos esta publicaci\u00f3n si recibimos respuesta.<\/p>\n
Los nuevos t\u00e9rminos dejan margen de maniobra para Microsoft.<\/p>\n
La prohibici\u00f3n total del uso del servicio Azure OpenAI se aplica \u00fanicamente a EE. UU.,<\/em> No internacional, polic\u00eda. Y no cubre el reconocimiento facial realizado con estacionario<\/em> c\u00e1maras en revisado<\/em> entornos, como una oficina administrativa (aunque los t\u00e9rminos proh\u00edben cualquier uso de reconocimiento facial por parte de la polic\u00eda de EE. UU.).<\/p>\n Esto sigue el reciente enfoque de Microsoft y su socio cercano OpenAI hacia los contratos de defensa y aplicaci\u00f3n de la ley relacionados con la IA.<\/p>\n En enero, un informe de Bloomberg revel\u00f3 que OpenAI est\u00e1 trabajando con el Pent\u00e1gono en una serie de proyectos que incluyen capacidades de ciberseguridad, una desviaci\u00f3n de la prohibici\u00f3n anterior de la startup de proporcionar su IA a los militares. En otros lugares, Microsoft ha propuesto utilizar la herramienta de generaci\u00f3n de im\u00e1genes de OpenAI, DALL-E, para ayudar al Departamento de Defensa (DoD) a crear software para ejecutar operaciones militares, seg\u00fan The Intercept.<\/p>\n El servicio Azure OpenAI estuvo disponible en el producto Azure Government de Microsoft en febrero, agregando caracter\u00edsticas adicionales de cumplimiento y administraci\u00f3n dirigidas a agencias gubernamentales, incluidas las fuerzas del orden. En una publicaci\u00f3n de blog, Candice Ling, vicepresidenta senior de la divisi\u00f3n gubernamental de Microsoft, Microsoft Federal, prometi\u00f3 que el servicio Azure OpenAI ser\u00eda \u00abpresentado para autorizaci\u00f3n adicional\u00bb al Departamento de Defensa para cargas de trabajo que respalden las misiones del Departamento de Defensa.<\/p>\n Actualizar: <\/strong>Despu\u00e9s de la publicaci\u00f3n, Microsoft dijo que su cambio original a los t\u00e9rminos de servicio conten\u00eda un error y, de hecho, la prohibici\u00f3n se aplica s\u00f3lo al reconocimiento facial en los EE. UU. No es una prohibici\u00f3n general para que los departamentos de polic\u00eda utilicen el servicio. <\/em><\/p>\n<\/p><\/div>\n