Cuando uno de los funcionarios más importantes de una compañía anuncia su salida de esta, significa que hubo malentendidos que no pudieron ser resueltos o, bien, que el trabajador se decantó por una mejor oferta laboral. Pero este último caso no fue el de Jan Leike.

El jefe de alineación, líder de superalineación y ejecutivo de OpenAI, era una de las mentes más brillantes detrás de OpenAI, empresa que – hace poco – presentó los últimos avances de ChatGPT dejando a más de uno boquiabierto por sus potentes avances en materia de mejorar la experiencia del usuario.

A través de un trino en X, el ahora exdirectivo informó que no va más con la empresa tras no haber podido surcar los desacuerdos en torno a la seguridad e innovación. En primer lugar, resaltó que esta decisión fue una de las cosas “más duras” que hizo en su vida, porque se necesita “urgentemente saber cómo dirigir y controlar los sistemas con IA que son más inteligentes que los humanos”.

Para nadie es ningún secreto la alta cantidad de críticas que ha recibido OpenAI y ChatGPT, su producto estrella, por las presuntas violaciones a la seguridad y privacidad de los millones de usuarios. 

El papel de Leike era, precisamente, alimentar a la inteligencia artificial para que estuviera alineada con los valores sociales humanos. En otras palabras, hacerla políticamente correcta. “Entré a OpenAI porque pensé que sería el mejor lugar en el mundo para hacerlo”, señaló Jan.

I joined because I thought OpenAI would be the best place in the world to do this research. 

However, I have been disagreeing with OpenAI leadership about the company's core priorities for quite some time, until we finally reached a breaking point.

— Jan Leike (@janleike) May 17, 2024

“Construir máquinas más inteligentes que el ser humano es, en sí mismo, un empeño inherentemente peligroso. OpenAI lleva en sus hombros una enorme responsabilidad en beneficio de la humanidad”, alertó.

But over the past years, safety culture and processes have taken a backseat to shiny products.

— Jan Leike (@janleike) May 17, 2024

Comparte en: