Произведение представляется собой переписку нескольких персонажей новеллы в виде трех писем.
Главным героем новеллы является Натаниэль, который не может избавиться во взрослой жизни от детских страхов, усугубляющихся постепенно.
В раннем детстве мать, укладывая сына спать, часто запугивала его образом Песочного человека, который забирает непослушных детей на планету Луна и лишает их глаз. При этом часто, стараясь побыстрее заснуть, мальчик слышит раздающиеся на лестнице шаги, которые принадлежат приятелю отца Натаниэля, адвокату Коппелиусу, с которым глава семейства проводит совместные научные эксперименты. Этот мужчина всегда вызывает ужас в душе мальчика, поскольку от него исходит отвращение и жестокость. Иногда Натаниэлю кажется, что адвокат Коппелиус и является тем самым песчаным человеком.
Во время проведения одного из экспериментов отец мальчика погибает, а адвокат бесследно исчезает, скрываясь от полиции.
Мать Натаниэля принимает в семью двух осиротевших детей брата и сестру Клару и Лотара. Достигнув совершеннолетия, Натаниэль и Клара обручаются, однако Клара замечает в поведении юноши определенные странности в виде написания чудных стихов, сочинения разных историй.
Натаниэль отправляется на обучение в другой город, где знакомится с продавцом барометров Копполо, который смутно напоминает ему Коппелиуса. Он решается встретиться с Копполо, чтобы отомстить за смерть отца. Об этом он пишет в письме к Кларе. При этом девушка пытается переубедить Натаниэля, убеждая его в существовании лишь его нервных фантазий.
Однако преподаватель юноши Спаланцани, с которым Натаниэль сдружился, переубеждает его в этом. Профессор знакомит молодого человека со своей дочерью Олимпией, являющуюся восхитительной красивой девушкой, но при этом отличающейся холодностью, молчаливостью и загадочностью.
Натаниэль приезжает на каникулы домой, и Клара находит его очень изменившимся, поскольку юноша выглядит мрачным, задумчивым, делится с девушкой мистическими предчувствия. Клара не выдерживает и высказывает жениху все. Что ее раздражает. В ответ Натаниэль выкрикивает девушке о ее холодности и бесчувственности, за что оказывается вызванным на дуэль Лотаром. Кларе удается предотвратить дуэль.
Вернувшись на учебу, Натаниэль обнаруживает свою квартиру сгоревшей при пожаре, поэтому он вынужден поселиться в квартире напротив дома профессора Спаланцани. Там он видит Олимпию и влюбляется, однако в один из дней он обнаруживает в доме Коппелиуса и раскрывает тайну Олимпии, которая оказывается не человеком, а обычной куклой.
Натаниэль возвращается домой и женится на Кларе. Но в один из дней на прогулке под воздействием своего психического состояния чуть было не убивает ее, а затем заканчивает свою жизнь самоубийством.