O Rottweiler é um cão de linhagem muito antiga que pode ter surgido numa cidade chamada Arae Flaviae fundada pelos Romanos, na ocasião de suas incursões no território alemão.

Neste contexto, acredita-se que a raça descende de um mastim, não só pela sua notável inteligência, mas também pela forte capacidade de trabalho. A cidade de Arae Flaviae corresponde hoje a Rottweill, emprestando assim o nome à raça. O primeiro registro de um exemplar de Rottweiler em uma exposição aconteceu em 1882 em Heilbronn, Alemanha e em 1901 surgiu um clube que ofereceu o primeiro standard da raça.

Em 1907, surge o Deustcher Rottweiler Klub, em Heiderberg, filiado na Associação Al emã de Cães Polícia e o Internacional Rottweiler Klub, cuja linha de ação privilegiava a beleza da estirpe. A fusão destes dois clubes origina, em 1921, o aparecimento do Allegmeiner Deutscher Rottweiler Klub (ADRK), que publica, em 1924, o primeiro Livro de Origens da raça.

Por volta da I Guerra Mundial, a sua popularidade já havia sido estabelecida no meio policial, que a nomeara “cão-polícia” em 1910 e em 1935 a raça foi oficialmente reconhecida pelo Kennel Club americano e no ano seguinte chega à Grã-Bretanha. Em 1966 recebe um registro separado da parte do Kennel Club britânico.