WinFuture-Forum.de: Datei-duplikate - WinFuture-Forum.de

Zum Inhalt wechseln

Nachrichten zum Thema: Software
Seite 1 von 1

Datei-duplikate finden und bearbeiten


#1 Mitglied ist offline   fineliner 

  • Gruppe: aktive Mitglieder
  • Beiträge: 106
  • Beigetreten: 14. Januar 05
  • Reputation: 0

geschrieben 29. August 2006 - 20:06

hab mit der suche einen Post von vor ungefär einem jahr gefunden, wo auch einige leute geantwortet haben
ich suche aber ein freeware-program.....

rika hat sowas gepostet:
@echo off
for /r %%i in (*.*) do sha1sum "%%i">>"%temp%\dup1.txt"
for /f "tokens=1,2*" %%a in (%temp%\dup1.txt) do echo %%a;%%b %%c>>"%temp%\dup2.txt"
finddup "%temp%\dup2.txt" "%temp%\dup3.txt" 1;
for /f "delims=; tokens=2" %%d in (%temp%\dup3.txt) do echo del "%%d">>"%temp%\dup4.bat"
call "%temp%\dup4.bat"
del "%temp%\dup1.txt"
del "%temp%\dup2.txt"
del "%temp%\dup3.txt"
del "%temp%\dup4.bat"
@echo on

Zitat

sha1sum kennt jeder, finddup ist ein Programm zur Eliminiation von Duplikaten in CSV-Tabellen. Kann man sich auch trivial selbst schreiben.


frage an alle die den code lesen können:

fragt die gestartete dup4.bat ab, ob sie die duplikate löschen soll? oder kann ich diese, dann auch verschieben lassen?

bezieht sich der code oben auf diese sha1sum.exe?
und auf diese finddup.exe
0

Anzeige



#2 Mitglied ist offline   Rika 

  • Gruppe: aktive Mitglieder
  • Beiträge: 11.533
  • Beigetreten: 11. Juni 03
  • Reputation: 2
  • Geschlecht:Männlich

geschrieben 29. August 2006 - 20:40

Ich hab das ganze mittlerweile wesentlich überarbeitet. Die Prüfsummen werden über ein modifziertes SHA1SUM erzeugt, welches nur die SHA1-Prüfsumme schreibt und sie in einen Alternatve Data Stream schreibt. Duplikateliminiation erfolgt mit Dateien, und überhaupt ist alles ganz anders.

Ja, ich poste es demnächst mal.
Konnichiwa. Manga wo shitte masu ka? Iie? Gomenne, sonoyouna koto ga tabitabi arimasu. Mangaka ojousan nihongo doujinshi desu wa 'Clamp X', 'Ayashi no Ceres', 'Card Captor Sakura', 'Tsubasa', 'Chobits', 'Sakura Taisen', 'Inuyasha' wo 'Ah! Megamisama'. Hai, mangaka gozaimashita desu ni yuujin yori.
Eingefügtes Bild
Ja, mata ne!

(For sending email please use OpenPGP encryption and signing. KeyID: 0xA0E28D18)
0

#3 Mitglied ist offline   fineliner 

  • Gruppe: aktive Mitglieder
  • Beiträge: 106
  • Beigetreten: 14. Januar 05
  • Reputation: 0

geschrieben 29. August 2006 - 20:43

DANKE ;D
0

#4 Mitglied ist offline   Rika 

  • Gruppe: aktive Mitglieder
  • Beiträge: 11.533
  • Beigetreten: 11. Juni 03
  • Reputation: 2
  • Geschlecht:Männlich

geschrieben 30. August 2006 - 00:10

Bitte schön. Bedienung ist trivial: Frisst beliebig viele Parameter, arbeitet sie nacheinander ab

-a (add) - fügt Dateien, die noch keine Prüfsumme haben, eine hinzu
-u (update) - fügt allen Dateien eine neu berechnete Prüfsumme zu
-r (remove) - entfernt alle Prüfsummen
-c (check) - prüft alle Prüfsummen
-d (duplicate) - ermittelt über die Prüfsummen alle Duplikate und erstellt automatisch ein Löschscript, welches dann ausgeführt wird. Wer das nicht will, kann das Script ja entsprechend ändern.
-e (export) - exportiert alle Prüfsummen ins SHA1SUM-Format
-l (list) - exportiert alle Prüfsummen plus Dateigrößen in eine CSV-Tabelle

Der Vorteil ist, daß alle Prüfsummen permanent an die Datei angehängt werden und daher bei der nächsten Prüfung gleich zur Verfügung stehen, ohne die Dateien neu eingelesen werden müssen. So ein Alternative Data Stream wird auch vom Explorer, von Kommandozeilen-Tools und den meisten System-Funktionen automatisch mitkopiert und bleibt daher erhalten.
Durch die Export-Funktion kann man offline die Dateien vergleichen
Zudem sind die Prüfsummen kryptographisch stark - man kann die Datei nicht ändern, ohne die Prüfsumme zu invalidieren (sprich: eine Verifikation besteht auch Export, Check, und Vergleich des Exports mit einem früheren Export). Natürlich taugt es auch hervorragend zum Auffinden von zufälligen Fehlern.
Man hat auch gleich alles für SHA1SUM verfügbar, spart also auch das Arbeit.
Mit dem CSV-Export kann man Listen von bereits bekannten Downloads pflegen.

bekannte Probleme:
- Wenn ein Programm eine Datei nur ändert, ohne sie neu zu schreiben, dann stimmt die Prüfsumme nicht mehr. So etwas kann man mit -c (check) feststellen. Ist aber relativ selten.
- Man muss Delayed Expansion für die Kommandozeile aktivieren (HKEY_CURRENT_USER\Software\Microsoft\Command Processor\DelayedExpansion=dword:1), weil das aus Performance-Gründen verwendet wird.
- Dateien mit einem Ausrufezeichen im Namen können prinzipiell nicht ordentlich behandelt werden. Dort wird dann kein ADS geschrieben, sondern "nur" eine zugehörige Datei mit ähnlichem Namen angelegt. Ja, das liegt an Delayed Expansion und Problemen mit der Kommandozeile - ohne Delayed Expansion wäre zusätzlich noch das Prozentzeichen betroffen.
- ADS können natürlich nicht auf Laufwerke kopiert werden, die mit anderen Dateisystemen arbeiten (mit Ausnahme von HPFS). Der Explorer weist darauf entsprechend hin.
- Ein Lauf über zigtausende Dateien kann durchaus einige Stunden dauern, da es ohne ein ständiges Aufrufen von 'cat' leider nicht geht. 'type' und 'more' können leider mit ADS nicht ordentlich umgehen und führen auch häßliche Unicode-ASCII-Umkonvertierungen durch.
Konnichiwa. Manga wo shitte masu ka? Iie? Gomenne, sonoyouna koto ga tabitabi arimasu. Mangaka ojousan nihongo doujinshi desu wa 'Clamp X', 'Ayashi no Ceres', 'Card Captor Sakura', 'Tsubasa', 'Chobits', 'Sakura Taisen', 'Inuyasha' wo 'Ah! Megamisama'. Hai, mangaka gozaimashita desu ni yuujin yori.
Eingefügtes Bild
Ja, mata ne!

(For sending email please use OpenPGP encryption and signing. KeyID: 0xA0E28D18)
0

#5 _MagicAndre1981_

  • Gruppe: Gäste

geschrieben 30. August 2006 - 07:22

@Rika ist dein Archive kaputt? da ist nix drin *grübel*
0

#6 Mitglied ist offline   bartii 

  • Gruppe: aktive Mitglieder
  • Beiträge: 5.428
  • Beigetreten: 02. August 05
  • Reputation: 1
  • Geschlecht:Männlich

geschrieben 30. August 2006 - 08:12

Beitrag anzeigenZitat (MagicAndre1981: 30.08.2006, 08:22)

@Rika ist dein Archive kaputt? da ist nix drin *grübel*

bei mir ist da was drinne
Software is like sex. It is better when it's free.. (Linus Torvalds)
0

#7 Mitglied ist offline   fineliner 

  • Gruppe: aktive Mitglieder
  • Beiträge: 106
  • Beigetreten: 14. Januar 05
  • Reputation: 0

geschrieben 30. August 2006 - 13:13

bei zeiten (wenn ich den pc mal 5stdn nicht brauche) lass ich das dann mal rennen, danke noch mal

edit hab jetzt auch mal den reg-eintrag angehängt :) Angehängte Datei  DelayedExpansion.zip (410bytes)
Anzahl der Downloads: 99

Dieser Beitrag wurde von fineliner bearbeitet: 30. August 2006 - 13:24

0

#8 _MagicAndre1981_

  • Gruppe: Gäste

geschrieben 30. August 2006 - 13:22

Beitrag anzeigenZitat (bartek2k: 30.08.2006, 09:12)

bei mir ist da was drinne


ich kann es weder mit 7zip, noch mit PowerArchiver entpacken :)
0

#9 Mitglied ist offline   bartii 

  • Gruppe: aktive Mitglieder
  • Beiträge: 5.428
  • Beigetreten: 02. August 05
  • Reputation: 1
  • Geschlecht:Männlich

geschrieben 31. August 2006 - 09:20

Beitrag anzeigenZitat (MagicAndre1981: 30.08.2006, 14:22)

ich kann es weder mit 7zip, noch mit PowerArchiver entpacken :blush:

falls du nicht irgendein n-lite modifiziertes Windows hast,versuche es einfach mit dem Zip Programm von XP....

damit hat es bei mir geklappt


EDIT: habe es einfach neu verpackt

Dieser Beitrag wurde von bartek2k bearbeitet: 31. August 2006 - 09:23

Software is like sex. It is better when it's free.. (Linus Torvalds)
0

#10 _MagicAndre1981_

  • Gruppe: Gäste

  geschrieben 31. August 2006 - 12:51

Beitrag anzeigenZitat (bartek2k: 31.08.2006, 10:20)

falls du nicht irgendein n-lite modifiziertes Windows hast,versuche es einfach mit dem Zip Programm von XP....


Nee, habe ich nicht. Ein ungen-Litetetes XP kommt mir nicht mehr auf die Platte :)

Beitrag anzeigenZitat (bartek2k: 31.08.2006, 10:20)

EDIT: habe es einfach neu verpackt


Danke, damit hat es geklappt ;)

Dieser Beitrag wurde von MagicAndre1981 bearbeitet: 31. August 2006 - 12:51

0

Thema verteilen:


Seite 1 von 1

1 Besucher lesen dieses Thema
Mitglieder: 0, Gäste: 1, unsichtbare Mitglieder: 0