Microsoft se está distanciando de su socio OpenAI, evitando los chatbots eróticos: “Simplemente no es un servicio que vamos a ofrecer”, dice el CEO de AI Mas Cipolleti

“Ese simplemente no es un servicio que vamos a brindar”, dijo el jueves el director ejecutivo de inteligencia artificial de Microsoft, Mustafa Suleyman, en la Cumbre del Consejo Internacional Paley en Menlo Park, California. “Otras empresas construirán eso”.

A principios de este año, Elon Musk, director ejecutivo de xAI, dijo en una publicación X Grok, el robot de inteligencia artificial de la startup, podría adoptar la forma de acompañantes, como mujeres jóvenes que parecen personajes de anime, para los suscriptores. Y la semana pasada, el director ejecutivo de OpenAI, Sam Altman anunciado ChatGPT pronto podrá generar contenido erótico para usuarios adultos verificados.

Altman explicó que la decisión de la compañía de agregar capacidades sexuales más explícitas requeriría verificación de edad y es parte de un espíritu de “tratar a los usuarios adultos como adultos”.

“A medida que la IA se vuelve más importante en la vida de las personas, permitirles mucha libertad para usar la IA en la forma que quieran es una parte importante de nuestra misión”, Altman escribió en X.

Microsoft y OpenAI se están distanciando

La división en la actitud hacia el erotismo de los chatbots con IA generativa se produce cuando Microsoft y OpenAI, que alguna vez fueron socios cercanos, han comenzado a tomar caminos separados. La startup de IA recibió 13 mil millones de dólares en inversiones y potencia informática de Microsoft desde 2019, pero el mes pasado, según se informa firmó un acuerdo informático por valor de 300.000 millones de dólares con Oráculoun rival de Microsoft. Mientras tanto, Microsoft ha desarrollado su propio software de inteligencia artificial, incluido su planificado lanzamiento de caída de Copilotun asistente de inteligencia artificial para su sistema operativo Windows y su navegador web Edge, que promete herramientas de inteligencia artificial “centradas en el ser humano”.

Suleyman anteriormente evitó la idea de la conciencia de la máquinaadvertir que los sistemas de inteligencia artificial que pueden imitar el lenguaje y el comportamiento humanos los hace más difíciles de regular y, en última instancia, sirven mejor a los humanos. Fue una idea que redobló en nuevos comentarios esta semana.

“Ya se puede ver con algunos de estos avatares y personas que se inclinan hacia el tipo de sexbot, dirección erótica”, dijo Suleyman el jueves. “Esto es muy peligroso y creo que deberíamos tomar decisiones conscientes para evitar ese tipo de cosas”.

OpenAI no respondió a FortunaSolicitud de comentarios. XAI respondió: “Mentiras de los medios heredados”.

Controversia del chatbot erótico

Quienes están fuera del espacio de la IA también han criticado la decisión de OpenAI y xAI de integrar más contenido sexual en sus respectivos chatbots.

El inversionista multimillonario Mark Cuban prevenido Los padres podrían abandonar ChatGPT si creen que sus hijos pueden eludir las protecciones de verificación de edad implementadas, favoreciendo en cambio a los competidores de OpenAI.

“Esto va a ser contraproducente. Duro”, cubano escribió en X en respuesta a Altman. “Ningún padre va a confiar en que sus hijos no puedan superar el límite de edad. Simplemente empujarán a sus hijos a cualquier otro LLM. ¿Por qué correr el riesgo?”

altman, en cambiodijo que su empresa “no era la policía moral elegida del mundo”.

Jessica Ji, analista de investigación senior del Centro de Seguridad y Tecnología Emergente de Georgetown, dijo Fortuna‘s Bea Nolan OpenAI se encuentra en una posición precaria a la hora de imaginar el futuro de las capacidades de ChatGPT: la compañía ha recibido señales de los consumidores de que hay una demanda de contenido erótico en la aplicación, pero debe equilibrar los intereses del mercado con su promesa a los inversores de fabricar productos de IA que beneficien a la humanidad.

“A pesar de algunas de las narrativas sobre la construcción de inteligencia artificial general que potenciará la economía, OpenAI todavía está tratando de operar como una plataforma tecnológica y algo así como una empresa de redes sociales”, dijo Ji. “Existe una tensión interesante entre las narrativas que se venden a inversores y políticos… versus las cosas que realmente están sucediendo en el mercado”.