Según informes de medios extranjeros, bajo el ímpetu de los avances en inteligencia artificial, el contenido de video manipulado llamado deepfakes ha traído riesgos serios y crecientes en la difusión de información falsa. A medida que estas ediciones modificadas se vuelven más y más convincentes, se debe desarrollar una herramienta que pueda ayudar a distinguir entre autenticidad y autenticidad. Científicos informáticos de la Universidad de Buffalo han desarrollado una técnica para lograr este objetivo.
Se informa que esta nueva tecnología reconoce falsificaciones profundas en fotografías de retratos mediante el análisis de pequeños reflejos en los ojos, con una tasa de precisión del 94 %.
La falsificación profunda es un tipo de medio artificial que entrena un algoritmo de aprendizaje profundo en un videoclip real de una persona y luego lo mezcla con imágenes de computadora para generar un videoclip ficticio. Estos son cada vez más reales.
En este sentido, los expertos están cada vez más preocupados por el posible impacto de este tipo de tecnologías en la democracia. Su video manipulado muestra que los políticos parecen decir algo que en realidad nunca antes habían dicho, como la presidenta de la Cámara de Representantes de EE. UU., Nancy Pere. Rosie, el video de su conversación ha sido manipulado.
La investigación realizada por el equipo de la Universidad de Buffalo fue dirigida por el científico informático Siwei Lyu, quien intentó desarrollar una nueva herramienta de detección de falsificación profunda explotando pequeñas desviaciones en los reflejos de los ojos. Al mirar algo en la vida real, el reflejo del objeto en los ojos de las personas tiene la misma forma y color.
Termine la córnea casi como unhermosasemicircular, y tiene una fuerte capacidad de reflexión, dijo Lyu, por lo tanto, cualquier luz emitida por la fuente de luz que ingresa al ojo se refleja en la córnea algo modo reflectante ambos ojos Debería ser muy similar porque ven lo mismo. Normalmente no nos damos cuenta de esto cuando miramos una cara.
Pero la situación con la falsificación profunda es diferente. Lyu y su equipo desarrollaron un conjunto de herramientas informáticas para abordar este defecto. Primero dibujan la cara, examinan los ojos, luego los globos oculares y luego el reflejo de la luz en cada globo ocular. Después de una comparación muy detallada, la herramienta puede encontrar la diferencia en la forma, la luz y la intensidad de la luz reflejada.
El equipo de investigación probó su nueva herramienta en una combinación de personas reales y deep fakes y descubrió que puede distinguir a estos últimos con una eficiencia del 94 %. Aunque este número parece muy prometedor, el equipo de investigación señaló que este método todavía tiene algunas limitaciones. Una de ellas es que estas desviaciones pueden repararse mediante un software de edición, y la imagen detectada debe mostrar una visión clara del ojo.