Удаление дублей строк

Вставьте список и оставьте в нём только уникальные строки в исходном порядке.

0 слов · 0 символов
Ctrl/⌘ + Enter
Здесь появится результат. Изменённые слова подсвечены зелёным.

Ваш текст не сохраняется. Основные функции бесплатны всегда.

Коротко

Удаление дублей строк AdeptWrite оставляет в списке только первое вхождение каждой строки и сохраняет исходный порядок. По умолчанию пробелы по краям строк обрезаются, регистр учитывается; можно включить игнорирование регистра и удаление пустых строк. Инструмент показывает, сколько строк было, сколько дублей удалено и сколько осталось. Работает в браузере, список на сервер не отправляется, регистрация не нужна, а исходный список остаётся в поле, так что настройки можно менять и сравнивать результаты.

Как пользоваться Удаление дублей строк

  1. Вставьте список в поле: каждый элемент с новой строки (адреса, ключевые запросы, фамилии, артикулы).
  2. Выберите параметры: игнорировать регистр, обрезать пробелы по краям строк, удалить пустые строки.
  3. Посмотрите статистику: сколько было строк, сколько дублей удалено и сколько строк осталось.
  4. Скопируйте уникальный список. Порядок строк тот же, что и в исходном, без сортировки.

До и после

ДО
Иванов Пётр Петрова Анна иванов пётр Иванов Пётр Сидоров Олег Петрова Анна
ПОСЛЕ
Иванов Пётр Петрова Анна иванов пётр Сидоров Олег

Примечание: Режим по умолчанию: регистр учитывается, пробелы по краям обрезаются. Остались три уникальные записи и «иванов пётр» в нижнем регистре; с параметром «игнорировать регистр» исчезла бы и она. Строка «Петрова Анна » с пробелом на конце тоже признана дублем.

Возможности и режимы

  • Первое вхождение остаётся — Удаляются только повторы, а первая встреча строки сохраняется на своём месте.
  • Исходный порядок — Список не сортируется: порядок строк такой же, как до очистки.
  • Регистр на выбор — По умолчанию «Москва» и «москва» разные строки. Включите игнорирование регистра, и они станут дублями; сравнение идёт по правилам русского языка.
  • Пробелы по краям — Обрезка пробелов включена по умолчанию, поэтому строки с пробелом в конце не считаются отличающимися.
  • Пустые строки — Опция удаляет пустые строки целиком, а без неё повторяющиеся пустые строки сворачиваются в одну.
  • Счётчик результата — Видно число строк до и после и количество удалённых дублей.

Подходит для

SEO и контекстная реклама
Очистить список ключевых запросов из Вордстата или таблицы от повторов перед загрузкой в кампанию.
Рассылки и базы
Убрать повторяющиеся адреса электронной почты или телефоны из списка перед импортом в CRM.
Учёба и исследования
Объединить списки источников из нескольких файлов и убрать повторы в списке литературы.
Склад и интернет-магазин
Оставить уникальные артикулы и названия товаров из выгрузки нескольких поставщиков.

Как инструмент определяет дубль

Дублем считается строка, полностью совпадающая с одной из предыдущих. Сравнивается вся строка целиком, а не отдельные слова. «Иванов Пётр» и «Пётр Иванов» для инструмента разные строки, так же как «Иванов П.» и «Иванов Пётр».

ПараметрПо умолчаниюЧто меняет
Игнорировать регистрвыключен«Москва» и «москва» считаются одной строкой
Обрезать пробелывключёнПробелы в начале и конце строки не учитываются
Удалить пустые строкивыключенПустые строки удаляются целиком

Буква ё и другие тонкости

Инструмент не приравнивает «ё» к «е»: «Пётр» и «Петр» останутся разными строками. Это важно для списков фамилий и адресов, где в одних источниках ё пишут, а в других нет. Если нужно объединить такие варианты, сначала приведите написание к одному виду через «Найти и заменить», а потом удаляйте дубли.

Так же с пунктуацией и пробелами внутри строки: «Москва, Россия» и «Москва,Россия» различаются. Лишние пробелы между словами уберёт очистка текста.

Типичный порядок работы

  1. Очистите список от скрытых символов и двойных пробелов.
  2. Приведите регистр или включите его игнорирование.
  3. Удалите дубли и скопируйте результат.
  4. При необходимости упорядочите список через сортировку по алфавиту.

Ограничения

Учитывайте, что инструмент не запоминает ваши списки между визитами: закройте вкладку, и данные исчезнут.

Инструмент работает с точным совпадением строк. Он не находит «почти одинаковые» строки, опечатки и перестановки слов. Чтобы найти почти одинаковые записи, отсортируйте список и просмотрите соседние строки глазами: после сортировки похожие варианты оказываются рядом. Для списка из нескольких тысяч строк браузер справляется быстро, но на очень больших объёмах работа зависит от вашего устройства. Результат появляется в браузере, список никуда не передаётся.

Примеры из практики

В SEO-таблицах дубли возникают, когда запросы собирают из нескольких источников: после объединения один и тот же запрос встречается по три-четыре раза. В учёбе повторы появляются при сборке списка источников из нескольких файлов, а в рассылках — когда адрес вводили разными людьми. Во всех случаях порядок такой: сначала очистка, затем удаление дублей, затем при необходимости сортировка.

Частые вопросы

Как удалить повторяющиеся строки онлайн?

Вставьте список, где каждый элемент на отдельной строке, и запустите обработку. Останется первое вхождение каждой строки, а все повторы будут удалены. Порядок строк сохраняется без сортировки, а счётчик покажет, сколько дублей убрано и сколько строк осталось в списке.

Какая из одинаковых строк остаётся?

Остаётся первая по порядку, то есть самая верхняя из одинаковых строк. Все последующие совпадения удаляются без следа. Если важно сохранить именно последнее вхождение, переверните порядок строк, удалите дубли и переверните обратно.

Учитывается ли регистр?

По умолчанию да: «Москва» и «москва» остаются разными строками. Включите параметр игнорирования регистра, чтобы считать их дублями. В этом случае остаётся тот вариант написания, который встретился в списке первым, а остальные удаляются.

Считаются ли «Пётр» и «Петр» дублями?

Нет, буквы «ё» и «е» инструмент не приравнивает, это разные символы. Чтобы объединить такие записи, сначала замените «ё» на «е» во всём списке с помощью поиска и замены, а уже после этого удалите дубли и проверьте результат.

Что делать со строками, отличающимися пробелом в конце?

Ничего делать не нужно: обрезка пробелов по краям включена по умолчанию, и такие строки считаются одинаковыми. Если нужна точная проверка, отключите этот параметр, тогда лишний пробел станет отличием между строками.

Мой список загружается на сервер?

Нет. Дубли удаляются в вашем браузере, без регистрации и без отправки данных. Это удобно для списков с адресами электронной почты, телефонами и другими личными данными, которые не стоит загружать в сторонние сервисы.

Статьи по теме

Попробуйте бесплатно: Удаление дублей строк
Вставьте текст, выберите режим — готово. Без регистрации.
Убрать дубли