parser and definition for download, upload and prepare

Untitled.txt

-subcommands für argparse
-
-einzelne prameter zusammenbauen
-

download_db.sh

+#!/bin/bash
+Target_file=$1
+Target_dir=$2
+
+s3cmd get $Target_file $Target_dir

download_pfam.sh

@@ -2,6 +2,6 @@
 DOWNLOAD_DIR=$1
 
 cd $DOWNLOAD_DIR
-wget ftp://ftp.ebi.ac.uk/pub/databases/Pfam/current_release/Pfam-A.fasta.gz
-gunzip Pfam-A.fasta.gz
+wget ftp://ftp.ebi.ac.uk/pub/databases/Pfam/current_release/Pfam-A.hmm.gz
+gunzip Pfam-A.hmm.gz
 cd -
\ No newline at end of file

main.py

@@ -2,22 +2,52 @@
 import argparse
 import subprocess
 
+
 data={'swissprot':{'download':'./download_swissprot.sh','blast':'./blast_swissprot.sh','ghostx':'./ghostx_swissprot.sh'},'pfam':{'download':'./download_pfam.sh'}}
-parser=argparse.ArgumentParser(description='Vorbereitung von Datenbanken für PSOT(lädt Daten herunter, wandelt die um und stellt die Daten den Rechnern zur Verfügung)',prog='psotdb')
-parser.add_argument('-o','--option',dest='opt')
-parser.add_argument('-b','--bank',dest='bank')
-parser.add_argument('-t','--tool',dest='tool')
-args=parser.parse_args()
-
-if args.opt.lower()=='prepare':
-    file=subprocess.run([data[args.bank]['download'],'../dbx'])
+def myparser():
+    parser=argparse.ArgumentParser(description='Download, convert and share the data to working computer',prog='PSOT_database_maker')
+    
+    subparsers=parser.add_subparsers(title='Subcommands',description='Authorized Subcommands',help='Additional help')
+
+    prepare_parser=subparsers.add_parser('prepare',help='Databank download from the Website, extraction and transformation for another Programm')
+    prepare_parser.add_argument('database',help='Database which have to be prepared',type=str)
+    prepare_parser.add_argument('-t','--tool',help='Programm/Tool for the post analysis',type=str,)
+    prepare_parser.add_argument('-o','--output',default='./output',help='target directory for the output.Default will be a created("output") folder in the working directory',type=str)
+    prepare_parser.set_defaults(func=prepare)
+
+    upload_parser=subparsers.add_parser('upload',help='Databank copy from the local directory to the web storage')
+    upload_parser.add_argument('file',help='File to be transfered from the local directory',type=str)
+    upload_parser.add_argument('-d','--directory',default='s3://db_storage',help='Target directory for the file transfer into "S3". Default will be "s3://db_storage"',type=str)
+    upload_parser.set_defaults(func=upload)
+
+    download_parser=subparsers.add_parser('download',help='Datenbank copy from the web storage to the working computer')
+    download_parser.add_argument('file',help='File to be transfered from "S3"',type=str)
+    download_parser.add_argument('-d','--directory',default='./output',help='Target directory for the file transfer. Default will be a created folder("output) in the current working directory',type=str)
+    download_parser.set_defaults(func=download)
+    return parser.parse_args()
+def prepare(args):
+
+    file_down=subprocess.run([data[args.database]['download'],args.output])
     if args.tool:
-        file_tool=subprocess.run([data[args.bank][args.tool],'../dbx'])
+        file_tool=subprocess.run([data[args.database][args.tool],args.output])
     
-elif args.opt.lower()=='upload':
-    print('hochladen')
-elif args.opt.lower()=='download':
-    print('herunterladen')
-else:
-    print('geht nicht')
+def upload(args):
+
+    file_up=subprocess.run(['./upload_db.sh',args.file,args.directory])
+
+        
+
+def download(args):
+
+    file_down=subprocess.run(['./download_db.sh',args.file,args.directory])
+        
+
+def main():
+    
+    subprocess.run(['./make_directory.sh'])
+    args=myparser()
+    args.func(args)
+
 
+if __name__=='__main__':
+    main()
\ No newline at end of file

make_directory.sh

+#!/bin/bash
+mkdir -p output
\ No newline at end of file

testfile.txt

+
+Dbxref Quellcode, evtl. als Vorlage nutzbar: https://git.computational.bio.uni-giessen.de/SOaAS/dbxref/tree/master/dbxref
+
+Beschreibung:
+
+Das Protein Sequence Observation Tool integriert diverse bioinformatische Tools zur Anreicherung von Informationen zu Proteinen und normalisiert diese in das JSON Format, sodass die Informationen einfach von weiteren Programmen weiterverarbeitet werden können. In dieser Arbeit soll der ein Hilfsprogramm geschrieben werden, dass von PSOT benötigte Datenbanken vorbereitet und zur Verfügung stellt. Für einzelne Datenbanken gibt es bereits Skripte zur Installation und Aufbereitung. Diese Skripte sollen in einer Anwendung systematisch zusammen geführt und über eine einfach zu nutzende Kommandozeilenschnittstelle nutzbar gemacht werden. Vorraussetzung sind der Umgang mit der Linux Kommandozeile und solide Kenntnisse in Python 3.
+
+Stories:
+
+Verschiedene Rollen:
+    PSOT Entwickler
+    PSOT Nutzer
+   
+    . Der PSOT Entwickler benötigt eine neue Datenbank für sein verteiltes Programm. Er schreibt einmalig ein Script das die Datenbank bezieht (herunterlädt) und eins um die Datenbank für seine Anwendung vorzubereiten. Diese Skripte werden im db Tool hinterlegt und stehen damit allen unter einem definierten Namen (z.B. der Datenbankname und für welches Programm es aufbereitet wurde) zur Verfügung.
+    . Der PSOT Entwickler hat seine Datenbank vorbereitet und möchte sie jetzt in seiner verteilten Anwendung allen Knoten zur Verfügung stellen. Dazu konfiguriert er das db Tool mit seinem S3 Cloud Speicher und beauftragt es damit die grade erstellte Datenbank dorthin hochzuladen. Die Daten werden komprimiert im Cloud Speicher abgelegt. Auf den Knoten beauftragt er das db Tool die Daten herunterzuladen und an die gewünschte Stelle zu entpacken.
+    . Der PSOT Nutzer möchte wissen welche Datenbanken in dem öffentlichen Repository liegen. Dazu ruft er das db tool auf und es listet alle verfügbaren Datenbanken auf.
+    . Das db Tool prüft ob eine bestimmte Datenbank verfügbar ist, damit es diese nicht erneut herunterladen muss.
+    . Der Nutzer möchte wissen an welcher Stelle im System eine Datenbank für ein bestimmtes Tool abgelegt ist. Er ruft das db tool mit der Datenbank und dem Tool auf und erhält den Pfad zurück.
+   
+Beispielaufrufe:
+    dbman prepare "UniprotKB/swiss-prot" "ghostx"
+    dbman upload "UniprotKB/swiss-prot" "ghostx"
+    dbman download "UniprotKB/swiss-prot" "ghostx"
+    dbman location "UniprotKB/swiss-prot" "ghostx"
+    dbman list database recipes
+    dbman list local databases
+    dbman list remote databases
+
+Beispieldatenbanken:
+    swissprot
+    trembl
+    eggnog
+    pfam
+    card
+
+
+Evtl. kann auch biomaj für das Problem genutzt werden: https://biomaj.genouest.org/
+

upload_db.sh

+#!/bin/bash
+Target_file=$1
+Target_dir=$2
+
+s3cmd put $Target_file $Target_dir