La ecología del comportamiento de las máquinas

La ecología del comportamiento de las máquinas - La ecología del comportamiento de las máquinas
Pedro Luis Martín Olivares - La ecología del comportamiento de las máquinas

Pedro Luis Martín Olivares – Para entender la publicidad digital, estudie sus algoritmos

Alan Mislove es un investigador en el campo de los algoritmos, recientemente, su trabajo en northeastern university, Boston, ha demostrado que el software de Facebook filtraba los números de teléfonos de los usuarios a los anunciantes. También ha encontrado nuevas formas de auditar ese mismo software por sesgo racial, pero su trabajo enfrenta grandes desafíos. El raspado de datos de sitios web públicos a menudo se acerca al incumplimiento de sus términos y condiciones y las empresas a las que pertenecen esos sitios web generalmente no están dispuestas a dar a los investigadores un acceso más directo a sus sistemas.

Además, examinar los algoritmos de otras personas requiere la creación de los tuyos para hacerlo. El grupo de Mislove a menudo pasa meses simplemente escribiendo el código necesario para recopilar datos sobre los objetos de su investigación. Esto significa que solo aquellos con suficientes habilidades informáticas pueden estudiar los programas informáticos que desempeñan un papel cada vez más importante en la sociedad, no solo en el comercio, sino también en la política, la economía, la justicia y muchas otras áreas de la vida. Esto es malo para la investigación y para el público.

Ahora, mientras Facebook se encuentra en medio de un escándalo por el manejo de los datos y el poder de su software publicitario hiperdestinado, Mislove está trabajando con un grupo de investigadores del Instituto de Tecnología de Massachusetts (MIT) que piensan que tienen una respuesta a estos problemas. Este grupo, ubicado en el Laboratorio de Medios del MIT y dirigido por Iyad Rahwan, ha tomado una hoja del libro de B.F. Skinner, un conductista animal que, hace varias décadas, realizó trabajos entre el MIT y Harvard. Skinner inventó un dispositivo, ahora conocido como una Caja Skinner, que estandarizó el proceso de experimentación conductual. Usó sus cajas para controlar los estímulos de entrada (comida, luz, sonido, dolor) y luego observó el comportamiento de salida en un intento de vincular el uno con el otro. Aunque de ninguna manera perfecta, la caja de Skinner fue un gran avance en el campo. Rahwan espera hacer algo similar al software utilizando lo que él llama una Caja de Turing.

Esta “caja” es en sí misma una pieza de software. Coloque un algoritmo en él, controle las entradas de datos, mida los resultados, y podrá determinar exactamente cómo se comporta en diferentes circunstancias. Cualquiera que quiera estudiar un algoritmo puede subirlo a un Cuadro de Turing. El software de la caja luego comenzaría a ejecutar el algoritmo a través de un conjunto de datos estándar del tipo para el que fue diseñado. Todos los algoritmos de reconocimiento de rostros, por ejemplo, recibirían el mismo conjunto de rostros científicamente validados. La salida del algoritmo, en este caso, cómo clasifica diferentes caras, se registraría y analizaría. La esperanza de Rahwan es que las compañías quieran que los científicos políticos y sociales usen el recuadro para analizar sus algoritmos en busca de fallas potencialmente dañinas (por ejemplo, tratando rostros de manera diferente por motivos raciales), y que los investigadores se alinearán para realizar las pruebas.

De hecho, sus ambiciones van más allá todavía. Su intención es que la Caja de Turing se convierta en solo un componente de un nuevo campo, el estudio científico del comportamiento exhibido por las máquinas inteligentes y el impacto de ese comportamiento en las personas. Un documento de demostración, que él y sus colegas presentaron para su publicación en la conferencia conjunta internacional sobre inteligencia artificial, describe el sistema, así como los detalles más amplios de este nuevo campo de comportamiento de la máquina. Planea terminar el software turing-box para el verano de este año, y dice que publicará el código bajo licencia de código abierto poco después, para que cualquier persona pueda volver a utilizarlo. El funcionamiento de la plataforma se dejará en manos de una firma sin fines de lucro que planea sacar del MIT.

Es una idea clara y oportuna, los algoritmos se están desarrollando mucho más rápido de lo que se están estudiando y comprendiendo sus impactos. La Caja de Turing, si funciona según lo previsto, podría ayudar a cambiar el rumbo. Comprender el comportamiento de los algoritmos es particularmente urgente en el “ecosistema” de publicidad digital existente, en el cual los usuarios individuales de software están, en efecto, en sus propias Cajas de Skinner, con sus acciones constantemente monitoreadas y recompensas personalizadas. El furor de Facebook, por ejemplo, gira en torno a acusaciones de que Cambridge Analytica, una firma de cabildeo digital, obtuvo datos de Facebook de manera inapropiada y los utilizó para apuntalar anuncios que influyeron en las elecciones presidenciales estadounidenses de 2016, lo cual ha sido negado por la empresa.

Rahwan reconoce que la reticencia de muchas empresas que forman parte del ecosistema de la publicidad digital para cargar sus algoritmos para su inspección lo convierten en un mal lugar para comenzar. Entonces, para empezar, trabajará en otra parte, estudiando sistemas menos controvertidos y comercialmente sensibles, como los algoritmos de código abierto para procesar el lenguaje natural.

Sabías que puedes leer este artículo y otros en Telegram
Telegram Messenger 1 - La ecología del comportamiento de las máquinas

Pedro Luis Martín Olivares
Economía y Finanzas

Be the first to comment on "La ecología del comportamiento de las máquinas"

Deja un comentario

Tu dirección de correo no será publicada.


*


*