Nélson Barbosa Sampaio nasceu em 18 de outubro de 1909, em Salvador, Bahia, filho de Filinto César Sampaio e Cármem Barbosa Sampaio. Seu pai era coronel do Exército.

Bacharelou-se pela Faculdade de Direito do Rio de Janeiro em 1935.

Exerceu por vários anos a advocacia.

Desempenhou, interinamente, a função de adjunto de procurador da República no Distrito Federal.

Encetou sua carreira na Justiça Militar como promotor, na qualidade de substituto de promotor da 2ª Auditoria da Marinha.

Nomeado procurador-geral de Justiça Militar, empossou-se em 11 de março de 1968, permanecendo no cargo até 1970.

Como procurador-geral de Justiça Militar, assessorou o chamado “Inquérito do Galeão”, Inquérito Policial Militar (IPM) instaurado pela Aeronáutica, em agosto de 1954, para apurar a responsabilidade criminal no atentado e morte do major-aviador Rubens Florentino Vaz, no dia 5 de agosto de 1954, em Copacabana, Rua Toneleros, Zona Sul do Rio de Janeiro.

Logo em seguida, e inspirado na temática, entendeu de escrever dois trabalhos: um anteprojeto de lei com o objetivo de regular a forma do processo dos crimes previstos na Lei nº 1.802, de 5 de janeiro de 1953; e instruções para orientação dos encarregados dos IPMs instaurados na Força Aérea Brasileira (FAB).

Em junho de 1970, foi nomeado ministro do Superior Tribunal Militar, e eleito vice-presidente para o biênio 1975-1976.

Nélson Barbosa Sampaio foi casado com Cândida Labanca Sampaio, com quem teve dois filhos.

Faleceu em 22 de fevereiro de 1977, na Cidade do Rio de Janeiro, vítima de um ataque cardíaco, ao tomar conhecimento da morte, naquele mesmo dia, do ministro Amarílio Lopes Salgado, seu velho amigo e colega de STM, por igual oriundo do Ministério Público Militar, um preeminente ex-subprocurador-geral da Casa.