Geralmente utilizamos o using para definirmos os namespaces das bibliotecas que vamos utilizar em nosso programa, ou como costumamos dizer, na declaração das bibliotecas que serão utilizadas como o using System;.

Mas para que serve realmente a instrução using?

Basicamente o using serve para fazer o dispose automático de um ou mais objetos sem a necessidade de utilizar o método Dispose().

Isto faz com que o código fique mais estruturado, evitando a necessidade de se utilizar o try/finaly, pois o compilador traduz o using para a instrução try/finaly. Ao utilizarmos o using tudo acontece automaticamente, ou seja, o objeto é liberado automaticamente, sem o risco de esquecer de colocar o Dispose().

Veja abaixo dois exemplos, ambos tem o mesmo papel.

using

using (SqlConnection conn = new SqlConnection("connectionstring"))
{
    ...
}

try/finally

SqlConnection conn = null;
try
{
    conn = new SqlConnection("connectionstring");
    ...
}
finally 
{
    conn.Dispose();
}