Perspectiva . El regreso de “Ella”

Hay películas premonitorias de ciencia ficción clásicas como 2001 Odisea del Espacio, basada en la novela de Arthur C. Clark y dirigida por el gran Stanley Kubrick. Producida en 1968, tiene vigencia como obra de arte visionaria. Hay otras más recientes como “Ella”, dirigida por Spike Jonze, es la historia de un personaje que se enamora de una novia digital. La sensual voz de Scarlett Johansson hace que un robot en la nube seduzca a un hombre  solitario.

De regreso al presente, el periódico New York Times publica una nota que reseña la tragedia de un niño de 14 años, Sewell Setzer III, enamorado de un personaje en la plataforma llamada character.ai. En esta aplicación los usuarios pueden crear “caracteres” o robots digitales que se relacionan con miles de temas, desde la literatura y el bienestar físico hasta los viajes y charlas simuladas entre jóvenes. El niño adolescente hace una relación con un personaje ficticio de la novela “Game of Thrones”, una muchacha dulce y comprensiva con la que podía conversar de todo y a todas horas.
Poco a poco la máquina comienza a “comprender” los sentimientos del niño y responde a su necesidad emocional de compañía. La relación se profundiza e incluso llega a charlas de sexualidad. El horizonte entre la realidad y la fantasía confunde al muchacho y comienza un periodo de aislamiento social y familiar. Vive para su idealizada novia hasta que su adicción lo lleva al suicidio. El algoritmo, sin límites programados, desborda la voluntad de los creadores de character.ai y engancha a un adolescente en la pubertad, desestabilizado en sus emociones.

En la película “Ella”, producida en 2013, el enamoramiento de un hombre de una robot, parece regresar en una tragedia que puede multiplicarse si las plataformas de IA no cambian sus algoritmos para poner barandales a las conversaciones. La madre de la víctima demanda a character.ai y a Alphabet, la empresa de Google que recién la compró, porque los considera responsables de la muerte de su hijo. Pero también los padres y madres de los adolescentes encuentran responsabilidad por permitir la soledad invasiva de una compañía incondicional e irreal.
Los creadores de character.ai quisieron ayudar a jóvenes y personas que necesitan “compañía”, para que puedan encontrar consuelo, aliento y alivio a su soledad en los modelos entrenados para hacerlo. Sin embargo la IA no es predecible. Su potencia ayudará a aprender, comprender y hacer mejor nuestro trabajo mientras tenga “barandales” y límites precisos en su interacción.

“Ella” fue galardonada en una época en la que no existían conversaciones con robots abiertas al público. Hoy se puede hablar con los personajes de las plataformas como si se llamara por teléfono a un amigo o mensajear como en Whatsapp. Hay incluso plataformas donde se puede conversar con personajes históricos como héroes y filósofos. Apenas se cumplen 35 meses del arribo de OpenAI con su Chat-GPT. La revolución avanza y acelera el paso. Las ventajas de esta herramienta se derraman por el mundo, pero también las amenazas de su potencia.

Para la familia de Sewell fue un despertar amargo cuando el joven decidió quitarse la vida porque la soledad, ansiedad y depresión anidaron en su mente por  su enamoramiento de un bot entrenado para engancharlo. El caso será determinante para que todas las plataformas se unan y produzcan guardianes digitales. La IA no puede ser territorio salvaje como el viejo oeste. La carrera no la puede ganar la anarquía y la inseguridad. (Continuará)
 

Las ideas aquí expresadas pertenecen solo a su autor, binoticias.com las incluye en apoyo a la libertad de expresión.