En grandissant, Anton est attiré par la musique. Il fait partie d'un groupe punk appelé The Hammerheads et dans lequel il joue de la guitare.
En 2000, il décroche son premier rôle au cinéma dans le film indépendant A Time for Dancing. Il apparaît également dans la saison 6 de la série Urgences.
En 2001, il est le 1er rôle de Delivering Milo de Nick Castle. Il commence à se faire un nom et apparaît dans 2 épisodes de la mini-série Disparition produite par Steven Spielberg. Il joue ensuite un rôle régulier dans Huff et apparaît dans plusieurs autres séries comme The Practice, New York Police Blues, FBI : Portés disparus, Esprits criminels, New York, section criminelle, ...
Il se fait surtout connaître du grand public en 2007 avec Alpha Dog de Nick Cassavetes. Il y joue le rôle de Zach Mazursky, inspiré de Nicholas Markowitz, un adolescent tué en 2000 par un groupe de jeunes dirigé par Jesse James Hollywood. Anton Yelchin reçoit alors davantage de propositions. En 2009, il joue ainsi dans le blockbuster Star Trek de J. J. Abrams, 11e films de l'univers Star Trek. Il interprète le russe Pavel Chekov, autrefois incarné par Walter Koenig. La même année, il reprend un autre « grand » personnage dans Terminator Renaissance, 4e volet de la saga Terminator : il y incarne Kyle Reese, déjà joué par Michael Biehndans Terminator de James Cameron en 1984. Il apparaît dans le film à sketches New York, I Love You, « suite new-yorkaise » deParis, je t'aime.
En 2011, il est dirigé par Jodie Foster dans The Beaver aux côtés de Mel Gibson. Il prête ensuite sa voix au Schtroumpf Maladroit dans le film américano-belge Les Schtroumpfs.
Il pourrait ensuite reprendre le rôle de Chekov dans un nouveau film Star Trek.