Problemas iniciales de la IA: nuevas herramientas, nuevos problemas Mas Cipolleti

Apoye el trabajo de CleanTechnica a través de Suscripción a subpila o en la barra–

Hay algunas cuestiones relacionadas con la IA (inteligencia artificial) que ya están recibiendo mucha atención. Pero eso no se trata en este artículo. Sólo para informarles me refiero al hecho de que la IA a menudo se equivoca, aunque parezca plausible, y al hecho desafortunado de que la IA requiere enormes cantidades de energía. lo que conduce a la liberación de enormes cantidades de dióxido de carbono y otros contaminantes. Siento que esos problemas merecen atención. cada díaPero eso no es sobre lo que voy a escribir hoy.

Niños e IA: ¿una carrera creada en el infierno?

Recientemente leí un artículo titulado “Lo que hacen los niños pequeños usando la IA es absolutamente aterrador” en Futurismo– “Una nueva investigación está revelando cuántos niños utilizan aplicaciones complementarias de IA, y lo que encuentra es preocupante”, escribe Maggie Harrison Dupré. “A Nuevo informe Realizado por la empresa de seguridad digital Aura, descubrió que un porcentaje significativo de niños que recurren a la IA en busca de compañía participan en juegos de roles violentos. y violencia Esto puede incluir violencia sexual. Fomenta más participación que cualquier otro tema. donde los niños están involucrados” Jay…. ¿Qué diablos?

Inventa nuevas herramientas y los humanos las usarán mal. Pero da miedo saberlo. La agresión y la violencia son problemas graves en nuestra sociedad. Alimentación que no nos ayuda….

Aquí hay información más detallada sobre el estudio: “Con base en datos anónimos recopilados de las actividades en línea de aproximadamente 3000 niños de 5 a 17 años cuyos padres usaron las herramientas de control parental de Aura, así como datos de encuestas adicionales de Aura y la compañía de seguridad Talker Research, el 42 por ciento de los menores recurrieron específicamente a la IA. por la amistado diálogo diseñado para imitar interacciones sociales realistas o situaciones de juego de roles. En el análisis se incluyeron conversaciones en casi 90 servicios de chatbot, desde empresas icónicas como Character.AI hasta oscuras plataformas complementarias”. Algunas estadísticas adicionales:

• El 37% de los usuarios mantuvieron conversaciones con chatbots de IA que incluían “temas de violencia física, agresión, asalto o fuerza”, así como “descripciones de peleas, asesinatos, torturas o actos no consentidos”.
• en ese numero aproximadamente la mitad Incluyendo cuestiones de violencia sexual
• La edad en la que suelen darse las conversaciones violentas es… ¡11 años! ellos piensan 44% de tal conversación
• Mientras tanto, los niños de 13 años representaron el 63% de las conversaciones que involucraban juegos de roles sexuales y románticos….

IA psicótica

Pasando a otro punto. Aquí está la introducción al otro. Futurismo Artículo: “Además de los impactos ambientales, políticos y sociales que la IA tiene en el mundo, también se ha relacionado con graves crisis de salud mental en las que los usuarios se vuelven delirantes y terminan Comprometidos con el Instituto Psiquiátricoo incluso Murió por suicidio–

El artículo hace referencia a un artículo publicado en Semana de noticias– Este artículo fue escrito por Caitlin Ner, jefa de experiencia de usuario en una startup de visualización de IA para consumidores. Ella comienza el artículo de la siguiente manera:

“Los expertos en salud mental están empezando a advertir sobre un nuevo fenómeno llamado “IA psicópata”donde las personas entran en delirios, paranoia o alucinaciones inducidas. Interactuar con sistemas inteligentes– en En algunos casosLos usuarios comienzan a interpretar las respuestas del chatbot como importantes, sentimentales o que contienen mensajes ocultos destinados únicamente a ellos. Pero con el aumento de imágenes y vídeos de IA hiperrealistas, existe un mayor riesgo mental potencial. especialmente Los investigadores dicen que para los usuarios que ya son vulnerables a la psicosis–

“Hace dos años aprendí esto de primera mano”.

Recomiendo leer la historia completa. Pero aquí hay algunos ejemplos:

“Al principio, la IA parecía mágica. Puedo pensar en una idea, escribir un mensaje, y segundos después me vi en cada situación que podía imaginar, como flotar en Júpiter. Usar un halo y alas de ángel. Convertirme en una superestrella frente a 70.000 personas en forma de zombie.

“Pero a los pocos meses esa magia se convirtió en un frenesí.

“Cuando comencé a trabajar con estas herramientas, seguía siendo impredecible. A veces las imágenes pueden contener caras distorsionadas. Miembros adicionales y desnudez, incluso si no lo solicitabas. Pasé horas curando el contenido para eliminar cualquier anomalía. Pero estuve expuesto a tantas características antropomórficas perturbadoras que creo que estaban empezando a distorsionar mi percepción corporal y a sobreestimular mi cerebro de maneras que eran verdaderamente perjudiciales para mi salud mental.

“Incluso cuando las herramientas son más estables, las imágenes que crearon también se inclinaban hacia lo ideal: menos defectos. Un rostro más suave y una figura más delgada. Ver imágenes de IA como ésta una y otra vez me hizo sentir normal otra vez. Cuando mire mi verdadero reflejo veré algunas cosas que deben arreglarse”.

A partir de ahí se vuelve mucho más extremo. Pero pasaré al final donde terminaron las cosas:

“Cuando miro estas imágenes comencé a escuchar sonidos alucinatorios que parecían venir de algún lugar entre la IA y mi propia mente. Algunas voces son reconfortantes, mientras que otras se burlan o gritan de mí. Responderé a las voces como si fueran personas reales. ¿Quién me habla en mi dormitorio?

“Cuando vi imágenes mías en un caballo volador generado por IA, comencé a creer que realmente podía volar. Una voz me dijo que saliera volando del balcón. Me hizo sentir seguro de que podría sobrevivir. Este gran malentendido casi realmente me empujó a saltar”.

Hurra.

Aunque no usamos mucho la IA ni experimentamos resultados tan extremos, no hay duda de que el uso masivo de máquinas de visualización de IA puede tener una amplia gama de efectos en la mente, los sentimientos y la seguridad personal de las personas. Obsesionarse con la propia imagen y los riesgos asociados con lo que creemos que es normal o debería ser normal. Puede provocar diversos problemas de salud graves, y ni siquiera entremos en la seguridad pública.

Es evidente que la IA no va a desaparecer; su uso aumentará, especialmente entre los jóvenes. Entonces, ¿cómo consideramos y gestionamos estos problemas y riesgos? Prevendremos problemas de salud mental. autolesiones y cuán negativas pueden ser las reacciones a las expectativas inducidas por la IA.

Ésta es una pregunta difícil. Como padres de dos niñas, espero con ansias la respuesta. En general, por supuesto, se necesita mucho para ayudar a crear jóvenes fuertes, independientes y satisfechos de sí mismos. Pero no podemos asumir que no pensar en la IA o planificar su uso responsable sea parte de eso.

Caitlin es actualmente la directora de Simed VengadoresLos fondos de capital riesgo invierten en salud mental y cerebro. “Ella es una defensora de la salud mental centrada en la adicción digital y el impacto de la IA en la salud mental”. Si tiene preguntas o comentarios adicionales sobre este tema, comuníquese con ella.

Imagen destacada de Tima MirochnichenkoVía Pexels