Il personaggio, comunque, segnò profondamente la carriera di scrittore di Doyle, e in un certo senso lo perseguitò per tutto il resto della sua vita, tanto che dopo la morte di Holmes, verificatasi nel corso di un duello con l'arcinemico, il Professor Moriarty presso le cascate di Reichenbach e narrata in L'ultima avventura, fu costretto prima a realizzare un romanzo, Il mastino dei Baskerville, ambientato prima della sua morte, avvenuta nel 1891, quindi, grazie al fatto che il corpo del geniale investigatore non venne mai ritrovato, lo fece ritornare vivo e vegeto in attività in L'avventura della casa vuota, ambientata nel 1894: tre anni di buio in cui Holmes si è tenuto nascosto, aiutando in segreto il governo britannico. Quindi, dopo una carriera lunga ben 23 anni, 17 dei quali in collaborazione con Watson, Holmes si ritira prima nel Sussex a studiare l'apicoltura, quindi in una fattoria a cinque miglia da Eastbourne, dedicandosi alla filosofia e all'agricoltura, non prima di aver aiutato l'Inghilterra nel corso della Prima guerra mondiale. Il personaggio creato da Conan Doyle ha anche ispirato numerosi personaggi della letteratura e della televisione: ricordiamo Hercule Poirot, Ellery Queen, Nero Wolfe, Guglielmo da Baskerville (non a caso), protagonista de "Il nome della rosa" di Umberto Eco, Conan Edogawa, protagonista del manga Detective Conan di Gosho Aoyama, e il dottor Gregory House, protagonista della serie televisiva Dr. House - Medical Division.

Descrivere il metodo di indagine di Holmes è semplice e complesso al tempo stesso. Il detective di Baker Street fu il primo, se non ad applicare effettivamente, a rendere popolare la criminologia, cioè l'applicazione del metodo scientifico alle investigazioni criminali. Il nostro poneva alla base una certa differenza tra l'osservazione dei particolari e la deduzione. Erano due aspetti distinti, poiché l'osservazione portava ad alcune preliminari conclusioni, ma solo con la conoscenza di alcuni aspetti della vicenda si potevano trarre delle deduzioni definitive. 

Tale metodo deriva direttamente da quello del dott. Joseph Bell, insegnante di Conan Doyle, che nella diagnosi medica propugnava prima l'attenta osservazione dei dettagli, poi la conclusione basata sulla raccolta di prove inoppugnabili. Il metodo di Holmes era spesso basato sulla raccolta sul campo delle prove e degli indizi, cosa che lo differenzia nettamente dal fratello Mycroft, comparso per la prima volta in L'interprete greco, in grado di risolvere, lui sì, un'indagine senza mai muoversi dalla sua casa. Infine poneva una certa, importante differenza tra il guardare e l'osservare: nella prima attività tutti erano certamente bravi, ma solo l'abilità di cogliere i particolari poteva essere affinata con l'abitudine e l'esercizio. In sintesi questo era Holmes: una personalità asciutta e scattante che portò a livelli elevati l'attività investigativa nella letteratura, divenendo, molto più del già citato Dupin, un punto di riferimento per i giallisti del mondo intero. Il modo di dire più tipico attribuito ad Holmes è la frase «Elementare, Watson!» (Elementary, my dear Watson!), quando egli spiega, con una certa sufficienza, all'amico medico la soluzione di un caso. In realtà questa celebre frase non è mai stata pronunciata. In una pagina della raccolta Le memorie di Sherlock Holmes, nel racconto L'uomo deforme, Holmes, rispondendo a una domanda di Watson, fa semplicemente uso del modo di dire «Elementare!», riferito a un suo ragionamento; ne Il segno dei quattro dice testualmente: «La cosa è di una semplicità elementare». La frase «Elementare, Watson» ha fatto la sua apparizione in uno dei tanti film sul grande detective, conferendogli una certa dose di antipatia e supponenza senz'altro immeritate.