Sam Altman confiesa su mayor temor con ChatGPT: “No he dormido bien ni una sola noche”
Sam Altman, director ejecutivo de OpenAI, reconoció que la responsabilidad de decidir cómo debe responder ChatGPT le ha impedido descansar con tranquilidad desde el lanzamiento del servicio. “No he dormido bien ni una sola noche”, afirmó al describir el peso de definir límites, criterios y respuestas para una herramienta que utilizan cientos de millones de personas. El ejecutivo situó así el debate sobre inteligencia artificial en un terreno cotidiano y decisivo.
Sus palabras importan porque el funcionamiento de un modelo de lenguaje no depende solo de su capacidad técnica para generar textos o resolver consultas. También está condicionado por reglas humanas sobre aquello que puede explicar, negar, advertir o matizar.
Altman sostuvo que OpenAI consultó a cientos de expertos, pero admitió que la decisión final recae en la empresa y, de cara al público, en él. Ese margen de decisión abre preguntas sobre moral, seguridad y libertad.
El comportamiento del modelo nace de decisiones humanas
En una entrevista con The Tucker Carlson Show, Altman explicó que la compañía recurre a filósofos morales y especialistas en ética tecnológica para evaluar las pautas de ChatGPT. El objetivo es construir un marco que permita responder a peticiones diversas sin convertir la plataforma en un mecanismo para causar daño.
Aun así, señaló que ninguna consulta externa elimina la responsabilidad de OpenAI sobre los criterios adoptados. La empresa cuenta con un equipo dedicado al comportamiento del modelo, aunque Altman aceptó que sus decisiones pueden no acertar siempre.
La dificultad aumenta porque millones de conversaciones plantean circunstancias distintas. Una misma regla puede resultar adecuada para evitar un perjuicio y, al mismo tiempo, limitar una consulta legítima en educación, salud o investigación.
Para Altman, los dilemas más visibles no son los únicos que requieren atención. Le inquietan especialmente las decisiones pequeñas: el tono de una respuesta, la cantidad de información que se entrega, el modo de rechazar un pedido o la advertencia que acompaña una explicación.
La libertad de los usuarios tiene límites de seguridad
El director ejecutivo defendió que ChatGPT debe tratar a los adultos como adultos y ofrecer una herramienta flexible, con garantías de protección. Sin embargo, afirmó que esa libertad entra en conflicto con la seguridad cuando una solicitud puede facilitar daños graves.
Mencionó como ejemplo las instrucciones para fabricar un arma biológica o desarrollar síntesis virales. Aunque alguien presente esos pedidos como investigación, OpenAI considera que ChatGPT no debe contribuir a actividades sin interés social legítimo y con potencial de daño.
El caso de las armas biológicas parece más claro que otros asuntos, pero Altman señaló que muchos límites carecen de una respuesta inmediata. Las fronteras se vuelven menos precisas cuando el modelo aborda controversias políticas, asuntos culturales o preguntas relacionadas con valores personales.
En esas situaciones, la inteligencia artificial puede influir en la forma en que una persona ordena sus opciones, aunque no decida por ella. Por eso, el diseño de cada respuesta exige revisar sus consecuencias y admitir que el criterio puede cambiar con el tiempo.
OpenAI busca reflejar normas sin imponer una moral individual
Altman afirmó que OpenAI procura respetar las leyes de cada sociedad y representar un promedio de las preferencias morales de sus usuarios. Según su planteamiento, la compañía actúa como facilitadora de una tecnología que debe admitir posturas distintas, en lugar de trasladar al sistema la visión personal de sus directivos.
Esa aspiración enfrenta un límite evidente: las normas cambian entre países y las demandas sociales también se transforman. El modelo debe adaptarse a esas diferencias sin abandonar sus protecciones.
La inquietud de Altman resume ese desafío: cada ajuste aplicado a ChatGPT puede parecer menor dentro de una conversación, pero adquiere otra escala cuando afecta a millones de intercambios. La discusión sobre su conducta seguirá abierta mientras la tecnología amplíe su presencia en la vida.
Infobae
