gulli:board Logo

Anzeige


  Antwort
BoneMasterNo1
Bone4Gulli
 
Benutzerbild von BoneMasterNo1
 
Registrierungsdatum: Mar 2006
Ort: Dimension X
Beiträge: 874
TuxLoad - Perl Free Downloader for *nix

Achtung!! TuxLoad wird aktuell von binging weiterentwickelt:
http://board.gulli.com/thread/769810...--v025/26/#637


Ich habe diesen Downloader geschrieben, da mich die Lösung für Linuxuser über Wine und USD nicht zufriedenstellt (ich möchte gerne alles über die Konsole regeln können, da man nicht immer eine grafische Oberfläche zur Verfügung hat).
Zur Erkennung habe ich GOCR mit einer Captcha Datenbank benutzt.

Ich weis nicht ob das ganze unter Windows funktioniert, dieses script ist eigentlich für Linux und evtl. BSD Benutzer gedacht.
Das script wurde erfolgreich auf dem Mac gestestet, es gibt aber bis jetzt noch keine Garantie das es überall läuft!


Dies ist kein Supportthread für Linux,BSD,Mac etc.!!!
Wer probleme bei der installation der benötigten Programme hat soll sich an die entsprechenden Foren wenden oder einfach mal google benutzen.
Tip: Die logs zu lesen hilft meistens!

Was wird benötigt?
- Perl mit installiertem libwww modul (LWP), getestet mit version 5.8.8 (gentoo:libwww-perl)

für das Rapidshare.com plugin:
- jpeg bibliothek (debian/ubuntu: libjpeg-progs; gentoo:media-libs/jpeg)
- imagemagick (gentoo: media-gfx/imagemagick)

1.Methode
- GOCR, ich habe version 0.44 benutzt. (http://jocr.sourceforge.net/)
2. Methode ( datenbank unhabhängige methode !!!!)
- ocrad (ab v0.15 erfolgreich getestet)
- NetPBM (gentoo: media-libs/netpbm)
3.Methode
- AntiCaptcha for *nix (http://board.gulli.com/thread/847864...a-363-for-nix/)

Aktuelle Debian Pakete
http://board.gulli.com/thread/769810...---v016/9/#219

TuxLoad Original Changelog:
Spoiler:




Reconnect Methoden:
Router mit Busybox
Fritzbox
Fritzbox #2
Speedport
Allnet ALL130DSLv2
Speedtouch 546v6

Geändert von BoneMasterNo1 (31. 10. 2007 um 01:40 Uhr).
Alt 18. 05. 2007, 14:24 BoneMasterNo1 is offline Mit Zitat antworten #1
Yoshi
Mitglied
 
Registrierungsdatum: May 2000
Ort: Hannover
Beiträge: 228
Re: TuxLoad - Perl Free Downloader for RS

Super Sache BoneMasterNo1!

Ich hatte gestern auch schon angefangen, aber war noch nicht ganz so weit wie du jetzt!
Würde dir gerne bei der Weiterentwicklung helfen, sei es selber mitschreibend oder nur beratend. Habe das Script gerade runtergeladen und nach kurzem Einlesen und Ausprobieren funktioniert es.

Ein paar Anmerkungen:
Ich brauchte noch djpeg, welches sich unter Ubuntu im Paket libjpeg-progs befindet.

Die Zeile:
Code:
if ( $html_content =~ m/(<p><p><form action=\")($URI[0]rs)(\d\d)(\.rapidshare\.com$URI[1])(\" method=\"post\">)/)
sollte durch
Code:
if ( $html_content =~ m/(<p><p><form action=\")($URI[0]rs)(\d{1,3})(\.rapidshare\.com$URI[1])(\" method=\"post\">)/)
ersetzt werden, da sie Servernummern auch 3-stellig sein können...
ich bin einfach mal davon ausgegangen, dass sie 1 bis 3-stellig sein können.


MfG,
Yoshi
Alt 18. 05. 2007, 16:13 Yoshi is offline Mit Zitat antworten #2
BoneMasterNo1
Bone4Gulli
(Threadstarter)
 
Benutzerbild von BoneMasterNo1
 
Registrierungsdatum: Mar 2006
Ort: Dimension X
Beiträge: 874
Re: TuxLoad - Perl Free Downloader for RS

Danke für den hinweis, habs aber durch \d+ gelöst.
Desweiteren geht jetzt auch der download über eine liste, mit optionalem reconnect.
Das Programm/script zum reconnecten muss in der config angegeben werden.

bräuchte übrigens immer noch nen html code für die wartezeit. RS hat mich wohl zur zeit sehr gern^^.
Alt 18. 05. 2007, 16:52 BoneMasterNo1 is offline Mit Zitat antworten #3
hallihallo2
Mitglied
 
Registrierungsdatum: Feb 2007
Beiträge: 188
Re: TuxLoad - Perl Free Downloader for RS

Zitat:
Zitat von BoneMasterNo1 
Danke für den hinweis, habs aber durch /d+ gelöst.
Desweiteren geht jetzt auch der download über eine liste, mit optionalem reconnect.
Das Programm/script zum reconnecten muss in der config angegeben werden.

bräuchte übrigens immer noch nen html code für die wartezeit. RS hat mich wohl zur zeit sehr gern^^.

nicht nur dich. die wartezeit hat RS zurzeit komplett entfernt. egal wie groß die dateien sind!
Mal ne Frage: Hab ich das richtig verstanden? Läuft das nur auf Kommandozeile, oder gibts auch ne gui?
Auf jeden Fall ne super alternative zu usd+wine wenns funktioniert. Ich werds mal testen!
Alt 18. 05. 2007, 17:02 hallihallo2 is offline Mit Zitat antworten #4
BoneMasterNo1
Bone4Gulli
(Threadstarter)
 
Benutzerbild von BoneMasterNo1
 
Registrierungsdatum: Mar 2006
Ort: Dimension X
Beiträge: 874
Re: TuxLoad - Perl Free Downloader for RS

Es läuft zur zeit nur auf der konsole, eine gui ist im moment nicht geplant.

ps.: 600er post^^
Alt 18. 05. 2007, 17:05 BoneMasterNo1 is offline Mit Zitat antworten #5
Yoshi
Mitglied
 
Registrierungsdatum: May 2000
Ort: Hannover
Beiträge: 228
Re: TuxLoad - Perl Free Downloader for RS

Listendownload mit Reconnect geht 1a!

Kleine Schönheitskorrektur fürs Log wäre nach dem Download das Datum in der Leerzeile zu entfernen

Code:
Fri May 18 15:46:34 2007: Download finished Fri May 18 15:46:34 2007:

Bei der Anzeige wieviel man schon runtergeladen hat, könntest du da aus der
Chunkgröße den aktuellen Downloadspeed berechnen?
Und wie genau funktioniert das mit den Chunks beim Download (was für eine Größe ist das zum Beispiel)?


MfG,
Yoshi
Alt 18. 05. 2007, 17:58 Yoshi is offline Mit Zitat antworten #6
BoneMasterNo1
Bone4Gulli
(Threadstarter)
 
Benutzerbild von BoneMasterNo1
 
Registrierungsdatum: Mar 2006
Ort: Dimension X
Beiträge: 874
Re: TuxLoad - Perl Free Downloader for RS

Das mit dem log ist ist mir auch schon aufgefallen, das wird gleich geändert.

Zu den Chunks kann ich dir leider auch noch nicht viel sagen, bin da selber noch ein wenig am rumexperementieren.
Alt 18. 05. 2007, 18:01 BoneMasterNo1 is offline Mit Zitat antworten #7
lord_blight
Bloodbath's SuperMosher
 
Benutzerbild von lord_blight
 
Registrierungsdatum: May 2006
Beiträge: 590
Re: TuxLoad - Perl Free Downloader for RS

wenn ich mal wieder ne linix distri iwo drauf habe [ war in letzter zeit zu faul dazu ] werd ichs auf jeden fall testen !! Danke man
Alt 18. 05. 2007, 18:09 lord_blight is offline Mit Zitat antworten #8
BoneMasterNo1
Bone4Gulli
(Threadstarter)
 
Benutzerbild von BoneMasterNo1
 
Registrierungsdatum: Mar 2006
Ort: Dimension X
Beiträge: 874
Re: TuxLoad - Perl Free Downloader for RS

ich hab jetzt zwar noch keine speedanzeige einbauen könne, aber dafür wird der aktuelle fortschritt in prozent und bytes angezeigt.

Zu den Chunks kann ich nur sagen das die datei immer blockweise geschrieben wird. diesen block nennt man eben chunk.
Alt 18. 05. 2007, 18:53 BoneMasterNo1 is offline Mit Zitat antworten #9
tantum
...
 
Registrierungsdatum: Sep 2006
Beiträge: 799
Re: TuxLoad - Perl Free Downloader for RS

Vielen Dank für die Arbeit, klappt wunderbar
Könntest du vllt noch per Default den reconnect nach jedem DL einbauen, auch wenns nur eine Datei ist (-f) ? Habs zwar bei mir schon geändert, aber ich denke das würde einigen helfen, zumal die Fehlermeldung ('Error, Maybe too much downloads?') ein bisschen missverständlich ist.
Oder man macht eine Abfrage, ob ein reconnect stattfinden soll, wenn nur eine Datei gedownloadet wird.
Soweit die (hoffentlich konstruktive) Kritik von mir...
Alt 18. 05. 2007, 19:22 tantum is offline Mit Zitat antworten #10
Bongmaster.
Wir sind die Guten
 
Benutzerbild von Bongmaster.
 
Registrierungsdatum: Aug 2005
Beiträge: 1.026
Re: TuxLoad - Perl Free Downloader for RS

Hat es schon jemand für den Mac getestet

Also wenn ich es übers terminal starte kommt


Spoiler:

Geändert von Bongmaster. (21. 05. 2007 um 22:44 Uhr).
Alt 18. 05. 2007, 19:49 Bongmaster. is offline Mit Zitat antworten #11
BoneMasterNo1
Bone4Gulli
(Threadstarter)
 
Benutzerbild von BoneMasterNo1
 
Registrierungsdatum: Mar 2006
Ort: Dimension X
Beiträge: 874
Re: TuxLoad - Perl Free Downloader for RS

sieht ganz danach aus als ob dir das libwww modul fehlt.

http://search.cpan.org/CPAN/authors/...l-5.805.tar.gz

oder probier mal das
http://p5-libwww-perl.darwinports.com/
Alt 18. 05. 2007, 21:02 BoneMasterNo1 is offline Mit Zitat antworten #12
Bongmaster.
Wir sind die Guten
 
Benutzerbild von Bongmaster.
 
Registrierungsdatum: Aug 2005
Beiträge: 1.026
Re: TuxLoad - Perl Free Downloader for RS

ok jetz kommt immer der fehler

Spoiler:

Geändert von Bongmaster. (21. 05. 2007 um 22:45 Uhr).
Alt 18. 05. 2007, 21:08 Bongmaster. is offline Mit Zitat antworten #13
BoneMasterNo1
Bone4Gulli
(Threadstarter)
 
Benutzerbild von BoneMasterNo1
 
Registrierungsdatum: Mar 2006
Ort: Dimension X
Beiträge: 874
Re: TuxLoad - Perl Free Downloader for RS

hmm, versuch mal noch libgd und evtl. libmagic zu installieren. Ansonsten weis ich jetzt auch im moment nicht weiter.
Alt 18. 05. 2007, 21:17 BoneMasterNo1 is offline Mit Zitat antworten #14
Bongmaster.
Wir sind die Guten
 
Benutzerbild von Bongmaster.
 
Registrierungsdatum: Aug 2005
Beiträge: 1.026
Re: TuxLoad - Perl Free Downloader for RS

Spoiler:


keiner eine ahnung was da los ist

Geändert von Bongmaster. (21. 05. 2007 um 22:45 Uhr).
Alt 18. 05. 2007, 21:31 Bongmaster. is offline Mit Zitat antworten #15
CiHO
ganz krass
 
Registrierungsdatum: Mar 2007
Beiträge: 1.143
Re: TuxLoad - Perl Free Downloader for RS

hmm ich hab das problem:

Zitat:
ciho@ciho-desktop:~/tuxload$ perl tuxload.pl -f http://rapidshare.com/files/25062566..._CD1.part1.rar
TuxLoad - RS Free Downloader by BoneMasterNo1
Version 0.4 - 18.05.07
File download.
### Download of Herr_der_Ringe_-_1_-_Die_Gefaehrten_-_CD1.part1.rar

ERROR pnm.c L290: read magic2

hab ubuntu drauf..

klasse das du sowas gecodet hast
Alt 19. 05. 2007, 03:52 CiHO is offline Mit Zitat antworten #16
BoneMasterNo1
Bone4Gulli
(Threadstarter)
 
Benutzerbild von BoneMasterNo1
 
Registrierungsdatum: Mar 2006
Ort: Dimension X
Beiträge: 874
Re: TuxLoad - Perl Free Downloader for RS

hast du die jpeg bibliothek installiert? evtl brauchst du auch die NetPBM bibliothek und imagemagick. Wenn du die nachinstalliert hast empfiehlt es sich gocr neu zu kompilieren/installieren.
Alt 19. 05. 2007, 04:02 BoneMasterNo1 is offline Mit Zitat antworten #17
CiHO
ganz krass
 
Registrierungsdatum: Mar 2007
Beiträge: 1.143
Re: TuxLoad - Perl Free Downloader for RS

hmm hab jetzt alles drauf, aber es geht immernoch nicht.. selber fehler
Alt 19. 05. 2007, 05:09 CiHO is offline Mit Zitat antworten #18
Bongmaster.
Wir sind die Guten
 
Benutzerbild von Bongmaster.
 
Registrierungsdatum: Aug 2005
Beiträge: 1.026
Re: TuxLoad - Perl Free Downloader for RS

kann man nicht mal ein packet machen wo alle dateien drin sind die man brucht und die pfade im tuxload anpassen


oder ein schickes programm draus machen mit oberfläsche

Kann mir jemand das alles schicken am besten die dateien von seimem rechner

- Perl mit installiertem libwww modul, ich benutze version 5.8.8 (gentoo:libwww-perl)
- GOCR, ich habe version 0.44 benutzt. (http://jocr.sourceforge.net/)
- jpeg bibliothek (debian/ubuntu: libjpeg-progs; gentoo:media-libs/jpeg)
- evtl. NetPBM (gentoo: media-libs/netpbm)

Oder kann mir jemand peer icq aim msn helfen oder in nem irc chat das wäre super

Geändert von Bongmaster. (19. 05. 2007 um 11:25 Uhr).
Alt 19. 05. 2007, 10:47 Bongmaster. is offline Mit Zitat antworten #19
BoneMasterNo1
Bone4Gulli
(Threadstarter)
 
Benutzerbild von BoneMasterNo1
 
Registrierungsdatum: Mar 2006
Ort: Dimension X
Beiträge: 874
Re: TuxLoad - Perl Free Downloader for RS

Zitat:
Zitat von CiHO 
hmm hab jetzt alles drauf, aber es geht immernoch nicht.. selber fehler
welche version von gocr benutzt du? versuch mal die sources von http://anonym.to/?http://jocr.sourceforge.net/ zu kompilieren und zu installieren.
Folgendes wirklich installiert?
- jpeg bibliothek (debian/ubuntu: libjpeg-progs; gentoo:media-libs/jpeg)
- evtl. NetPBM (gentoo: media-libs/netpbm)

Ein packet wird eher schwierig, ich kann höchstens eins für linux machen. Aber selbst da müssen dann alle programme kompiliert werden, da es unterschiedliche plattformen und distributionenn gibt.
Alt 19. 05. 2007, 11:31 BoneMasterNo1 is offline Mit Zitat antworten #20
Bongmaster.
Wir sind die Guten
 
Benutzerbild von Bongmaster.
 
Registrierungsdatum: Aug 2005
Beiträge: 1.026
Re: TuxLoad - Perl Free Downloader for RS

aber so ein packet wäre schon besser da dann jeder die richtigen dateien hat zum kompilieren

so ich ab festgestellt wenn der ordner darwin-thread-multi-2level im perl ordner ist kommt der fehler

Spoiler:


ist der ordner darwin-thread-multi-2level im perl ordner nicht kommt der fehler

Spoiler:




alles sehr komich

Geändert von Bongmaster. (21. 05. 2007 um 22:46 Uhr).
Alt 19. 05. 2007, 11:32 Bongmaster. is offline Mit Zitat antworten #21
BoneMasterNo1
Bone4Gulli
(Threadstarter)
 
Benutzerbild von BoneMasterNo1
 
Registrierungsdatum: Mar 2006
Ort: Dimension X
Beiträge: 874
Re: TuxLoad - Perl Free Downloader for RS

versuch mal folgendes packet http://rapidshare.com/files/32145279...d-mac.tar.html , ich hab dort die config in die tuxload.pl zussamengeschmissen.
Alt 19. 05. 2007, 11:47 BoneMasterNo1 is offline Mit Zitat antworten #22
Yoshi
Mitglied
 
Registrierungsdatum: May 2000
Ort: Hannover
Beiträge: 228
Re: TuxLoad - Perl Free Downloader for RS

Zitat:
Zitat von CiHO 
hmm hab jetzt alles drauf, aber es geht immernoch nicht.. selber fehler
Also ich habe ausgehend von einer Standardubuntu 7.04 Installation eigentlich
nur noch gocr, imagemagick und libjpeg-progs installieren müssen.


MfG,
Yoshi
Alt 19. 05. 2007, 11:52 Yoshi is offline Mit Zitat antworten #23
Yoshi
Mitglied
 
Registrierungsdatum: May 2000
Ort: Hannover
Beiträge: 228
Re: TuxLoad - Perl Free Downloader for RS

Mit der neues Version hatte ich gerade folgenden Fehler:
129% - 85625047 bytes received
Download finished

Wurde wohl die Dategröße falsch erkannt...
aber der Download war in Ordnung.


MfG,
Yoshi
Alt 19. 05. 2007, 12:08 Yoshi is offline