Sobre el plagio de OpenAI
Recientemente ocurrió una nueva controversia sobre OpenAI y uno de los problemas matemáticos del milenio. En caso de que no te hayas enterado, en pocas palabras: dos matemáticos venían investigando el problema de Navier-Stokes usando Codex de OpenAI, uno de ellos trabaja con Anthropic. OpenAI, invirtiendo muchísimos recursos, afirmó haber resuelto el problema por su cuenta con un modelo interno, publicó el hallazgo y se adjudicó el descubrimiento.
Lo que hace esto un caso de plagio es que uno de los matemáticos sospecha que ese modelo pudo haber sido entrenado con el contenido de sus sesiones privadas de Codex, sin su autorización. Cuando preguntó al respecto, OpenAI solo confirmó que Codex no accede a datos de usuario, sin aclarar si esos datos se usaron de otra forma para entrenar el modelo. Además, OpenAI había propuesto adjudicarle el crédito del hallazgo solamente al que no trabaja con la competencia, pero este se negó.
Dejo la noticia con mayor detalle aquí.
Ahora bien, la IA ha alcanzado un punto de colaboración con las personas de una manera fascinante. Ha mejorado procesos y encontrado soluciones que nos benefician. Sin embargo, la parte corporativa de esto se ha demostrado de una manera insensible y acaparadora, la cual busca tener el crédito a cualquier costo.
Esto me deja pensando si realmente se respeta la privacidad al usar estas herramientas. ¿Y qué sucedería si ocurriera otro descubrimiento así?
Se comprende que la competencia de OpenAI ha influido para obtener este hito, pero me parece muy egoísta el prescindir de estas personas por ser “competencia”. Incluso revisando el “sobre nosotros” del sitio oficial de OpenAI, menciona:
OpenAI es una empresa dedicada a la investigación y la implementación de IA. Nuestra misión es asegurar que la inteligencia artificial general beneficie a toda la humanidad.
La misión que tanto presumen choca con lo que hicieron esta vez, y eso dice más de sus prioridades reales que cualquier “sobre nosotros”. Mientras tanto, toca ser más cuidadosos con lo que compartimos en estas herramientas: no siempre queda claro quién se queda con el crédito, o con los datos.