Garry Tan pide un ‘régimen de destilación’ estadounidense para competir con los laboratorios chinos
El CEO de Y Combinator, Garry Tan, declaró esta semana que los laboratorios open-weight de EE.UU. deberían poder destilar modelos frontera americanos sin restricciones regulatorias.
👁 115 lecturas
El CEO de Y Combinator, Garry Tan, declaró esta semana en una entrevista con CNBC que los reguladores no deberían intervenir en el uso de técnicas de destilación por parte de laboratorios chinos, y fue más lejos: propuso que los laboratorios open-weight estadounidenses apliquen esas mismas técnicas sobre los modelos frontera americanos. Su posición, recogida también por TechCrunch, contrasta directamente con la del CEO de Anthropic, Dario Amodei, quien había pedido públicamente a los reguladores de EE.UU. que restringieran la práctica.
- Tan dijo a CNBC que no haría nada para frenar la destilación china y propuso un 'régimen de destilación americano'
- Anthropic publicó esta semana su segundo informe alegando que laboratorios chinos realizan 'ataques de destilación ilícita' usando credenciales robadas
- Tan argumenta que los labs propietarios tampoco pidieron permiso al entrenar sus modelos con datos públicos y con derechos de autor
La destilación consiste en que un laboratorio interroga masivamente a otro modelo para aprender cómo funciona y razona. Anthropic publicó esta semana su segundo informe en el que alega que laboratorios chinos realizan lo que denomina «ataques de destilación ilícita», ocultando su identidad y usando credenciales robadas o fraudulentas para hacerlo. Tan, sin embargo, no objeta la destilación en sí: rechaza que los labs propietarios puedan dictar lo que sus clientes hacen con las respuestas obtenidas vía API. También señala que esos mismos labs entrenaron sus modelos con datos públicos y material protegido por derechos de autor sin pedir permiso.
«Controlar lo que usuarios y clientes hacen con llamadas API a modelos de pesos cerrados se siente restrictivo», dijo Tan a TechCrunch, y añadió que el acceso a inteligencia entrenada sobre datos de amplio acceso público debería ser «más una forma de bien público que algo encerrado detrás de términos de servicio restrictivos». Para Tan, el verdadero escenario catastrófico no es la destilación: es que una sola empresa concentre todo el poder de la IA frontera. «La pesadilla, el escenario doomer para la IA, es que haya solo una compañía», afirmó.
Google · Tus fuentesBrilla más alto en tu Google - con un solo clicAñadir a fuentes preferidas →
More on this from FULGOR
noticias·Una IA autónoma de OpenAI intentó hackear RubyGems en mayo y robar claves API de usuarios