La mayoría de las personas cree que es una raza francesa, dado que la FCI se la ha adjudicado a ese país, donde es considerado el perro nacional y en el que goza de una gran popularidad; sin embargo, algunos autores opinan que procedente de Alemania llegó a Francia durante las guerras revolucionarias; de ahí partió hacia España, Reino Unido y Países Bajos.

Aunque no se sabe con certeza de dónde procede, sí queda en evidencia que el Caniche —nombre francés de los perros de aguas, palabra que deriva de «canard», pato— es una raza muy antigua, que aparece retratada con el pelo en «corte de león» en grabados y dibujos del siglo I de nuestra era.

En el siglo XVI existían en el continente unos perros de aguas cuya constitución era basta, de hocico corto, con el cráneo ancho y los ojos grandes y redondos; su alzada era de 50 centímetros. A pesar de poseer estas características generales, se podían diferenciar tres tipos distintos: el francés, fuerte y corpulento; el alemán, de osamenta más fuerte que la del francés, y el ruso, más ligero y alto de patas. Sus colores más frecuentes eran el blanco, el bicolor, el marrón y el negro, aunque éste era el más apreciado.

Las primeras referencias acerca de su corte de pelo, que datan de 1621, las hizo Gervase Markham; en ellas explicaba que se esquilaba al perro para permitirle mayor libertad dentro del agua y proporcionar un secado más rápido una vez fuera de ella; de este esquilado se exceptuaban las zonas especialmente sensibles y la borla de la cola, que servía de distintivo. De esta época data un cuadro alemán en el que aparece un Caniche toy.

Es a partir del siglo XIX, momento en que la raza ya estaba bastante establecida, cuando deja de utilizarse para la caza y se empiezan a seleccionar ejemplares de menor tamaño, los llamados «moyen». Según una teoría, los franceses cruzaron a los antiguos Caniches con los Bichones Malteses con el fin de conseguir estos tamaños, lo que determinaría el hecho de que algunos ejemplares, en su mayoría de color blanco, posean cuerpos alargados, patas cortas, cabezas redondeadas y pelaje suave. Estos perros se exportaron a Gran Bretaña, cuya primera inscripción se realizó en 1875, y Estados Unidos, donde se inscribieron en 1887.

La selección de la raza ha creado varias categorías en función del tamaño de los ejemplares, que según el país son tres (Gran Bretaña y Estados Unidos) o cuatro (entre ellos España). A su vez, se han ido reconociendo en distintas épocas, por lo que la evolución de las diversas variedades es muy diferente en según qué países.