Diferencias

Muestra las diferencias entre dos versiones de la página.

--- inteligencia_artificial:conceptos [2023/05/08 11:52] – [Mínimos cuadrados ordinarios] alberto
+++ inteligencia_artificial:conceptos [2023/05/09 11:45] (actual) – [Ataques adversarios] alberto
@@ Línea 236: / Línea 236: @@
 Suele ser más complicado hacer un correcto tratamiento de los datos que realizar el entrenamiento (unas pocas líneas de código).
+===== Ataques adversarios =====
+{{youtube>lPyogLghTKo?}}\\
+Se trata de crear diferencias en los datos de entrada para confundir a la red neuronal y que de resultados erróneos. Algo equivalente a las "ilusiones ópticas" para las personas.\\
+No necesariamente pueden ser fácilmente detectables. Por ejemplo en el caso de reconocimiento de imágenes, pueden ser imágenes modificadas y que llamen la atención por psicodélicas, pero también pueden ser imágenes aparentemente correctas con una modificación determinada de píxeles, que una persona pasa por alto, pero confunde a la red.\\
+Se pueden crear dejando la red neuronal entrenada con los parámetros fijos y actuando sobre los datos de entrada (como si fueran parámetros) para maximizar el error.\\
+Es muy probable que si afecta a una red neuronal, afecte también a otras redes neuronales del mismo tipo, o con la misma función.\\