Ким Анатолий Андреевич родился 15 июня 1939 года в селе Сергиевка Казахской ССР. Его корейские предки жили в России с середины XIX века; отец преподавал в школе русский, а мать корейский язык. Учился в Московском художественном училище памяти 1905 года, окончил заочно Литинститут (1971; семинар В. Г. Лидина). Работал крановщиком башенных кранов, мастером на мебельной фабрике, киномехаником, художником-оформителем, инспектором-искусствоведом в Художественном фонде СССР, вел семинар прозы в Литинституте, преподавал в Сеуле (Южная Ко рея), был главным редактором (совместно с В. Толстым) журнала «Ясная Поляна» (с 1996).
Дебютировал как поэт, стихи впервые были опубликованы в газете «За автодорожное движение»; следующая поэтическая публикация — в журнале «Юность» (1997, № 11). Печатается как прозаик с 1973 года (рассказы в журнале «Аврора»). Публикует прозу в журналах «Новый мир», «Дружба народов», «Знамя», «Ясная Поляна», «Октябрь». С 1997 года выпускает Собрание сочинений в 6 томах (М.: Коре сарам). Переводит с казахского языка прозу А. Нурпеисова.
Стремясь к универсализации художественных образов, рассказывая в своих книгах «не историю жизни, а скорее историю духа», Ким, по оценке С. Семеновой, предпринял «сложнейшее исследование отношений эволюционной триады: зверь — человек — высший Человек, ввел в литературу наших дней активно-эволюционное, ноосферное видение».
Произведения Кима переведены на английский, датский, испанский, итальянский, китайский, корейский, немецкий, финский, французский, японский языки.
Член СП СССР (1978). Избирался членом правлений СП РСФСР (1985-91) и СП СССР (1986—91), исполкома Русского ПЕН-центра (с 1989); был членом редколлегий газеты «День» и «Литературной газеты» (1990—97), журналов «Советская литература»/«Московский вестник» (с 1990). Член редколлегий и общественных советов журналов «Новый мир», «Роман-газета» (с 1998). Академик Академии российской словесности (1996).
Награжден орденом «Знак Почета» (1984), отмечен премиями журналов «Дружба народов» (1980), «Юность» (1997), Евангелической церкви Рейнланда (1981), им. Ю. Казакова ПЕН-клуба Казахстана (2000).