В 1904-1905 гг. освоение Сахалина осложнила русско-японская война. Причиной вооруженного конфликта стало соперничество между странами за влияние в Маньчжурии и Корее.

По итогу войны был заключен Портсмутский мирный договор, согласно которому Россия признала влияние Японии в Корее, отдала юг Сахалина ниже 50-й параллели, а также Ляодунский полуостров на правах аренды.

После окончания русско-японской войны русскоязычное население острова переселилось на север Сахалина. Юг вновь стал носить название Карафуто. Японцы приняли радикальные меры по отношению к коренным жителям острова. Малочисленные народы переселили в резервации, из которых запретили выход без специальных документов. У населения также изымали снасти, чтобы они не могли самостоятельно заниматься промыслом. Реформы также затронули традиционные и культурные ценности — многие привычные традиции попали под запрет, так как японцы старались привить на острове собственную культуру.

21 апреля 1920 г. японцы решили захватить северную часть острова. Тогда неподалеку от Александровска-Сахалинского высадился японский десант, оккупировавший северный Сахалин. В течение 5 лет на острове вновь воцарились японские законы, правила и традиции.

20 января 1925 г. в Пекине СССР и Япония подписали конвенцию об отношениях между двумя государствами. Так, японские солдаты освободили территорию Северного Сахалина. Тем не менее, до 1944 года Япония продолжала добывать нефть на советской части Сахалина.